Acta de Derechos para (el uso de) la Inteligencia Artificial

Existen momentos en la vida de una sociedad que una nueva tecnología puede ser de tanto impacto que se requiere emitir lineamientos para uso. El día de ayer, la Office of Science and Technology Policy de estados unidos emitió los lineamientos que deben seguir los desarrolladores para la puesta de servicios y/o productos que utilizan inteligencia artificial.

La emisión de estos lineamientos es un hecho histórico por si mismo, ya que marca un antes y un después de esta tecnología (llamémosla) emergente.

Como antecedente al porque es necesaria, podemos indicar un par de casos relacionados con Facebook, uno de los cuales ya tratamos en nuestro primer post y que le dio vida a este sitio, por su puesto, el caso del algoritmo que utilizaba Facebook para su publicidad de vivienda. Se determinó que este algoritmo estaba diseñado de tal manera que discriminaba por características de los individuos (el público) las cuales están protegidas por la ley, las cuales era, pero no se limitan a sexo, raza, religión.

El segundo caso y que seguramente lo veremos mas adelante, es el famoso caso de Cambridge analytics, donde Facebook solicitó información a sus usuarios, para examinar nos solo las entradas, sino examinar y recolectar información de las “amistades” de quien llenara la información. Según la bbc.com el quiz de Facebook fue aplicado a 305K personas en 2014, pero la información recolectada fue de 87 millones. Esta información (o parte de ella) fue vendida por Facebook a Cambridge Analytics la cual la utilizó para crear perfiles psicológicos.

La multa a Facebook en su participación por Cambridge Analytics fue de 500K euros, pero la pregunta relevante es ¿Quién reparó los daños en los usuarios de Facebook? Y solo para tener una perspectiva, Facebook renovaba 55 000 0000 000 de dólares al año. ¿Para cuantas leyes quebrantadas le alcanza? Saquen la cuenta ustedes mismos.

Teniendo en cuenta este antecedente y lo cotidiano que se ha vuelto (y arraigará) la inteligencia artificial en nuestra vida diaria y servicios especializados se ha anunciado en Estados Unidos el acta de derechos para la inteligencia artificial.

Citando el documento publicado:

“Estos principios ayudan a brindar orientación siempre que los sistemas automatizados puedan afectar significativamente los derechos, las oportunidades o el acceso del público a necesidades críticas”

Los 5 cimientos sobre los que descansa este documento se enumeran a continuación:

• Sistemas Efectivos y Seguros. Los sistemas automatizados deben desarrollarse con la consulta de diversas comunidades, partes interesadas y expertos en el dominio para identificar preocupaciones, riesgos e impactos potenciales del sistema. Se debe proteger al individuo del uso irrelevante de datos en el diseño, desarrollo e implementación de los sistemas automatizados. Algunos de los principios se enumeran a continuación:
  • Consulta(s).
  • Mitigación e Identificación de Riesgo.
  • Monitoreo Persistente
  • Supervisión Clara dentro de la Organización.
• Protección contra la Discriminación Algorítmica. Evitar que los resultados operativos del algoritmo o impacto desfavorezcan a un individuo basado en su raza, color, etnia, sexo (incluyendo el embarazo, parto y condiciones médicas relacionadas, identidad de género, estado intersexual y orientación sexual), religión, edad, origen nacional, discapacidad, estado de veterano, información genética o cualquier otra clasificación protegida por la ley. Algunos de los principios se enumeran a continuación:
  • Evaluación proactiva de la Equidad en el Diseño.
  • Datos representativos y Robustos.
  • Protección contra Proxies.
  • Garantizar la Accesibilidad durante el Diseño, el Desarrollo y la Implementación.
  • Evaluación de la Disparidad.
  • Mitigación de la Disparidad.
  • Monitoreo y Mitigación Continuos.
• Privacidad de la Información. Los sistemas deben contar con controles que impidan la práctica abusiva de recolección de datos, utilizando únicamente los datos que se utilicen dentro del contexto razonable de las necesidades operativas del sistema. Las personas y las comunidades deben ser libres de deshabilitar la vigilancia. La vigilancia continua no debe ser utilizada en los contextos educativos, de hogar, trabajo y donde limite las posibilidades de acceso, derechos u oportunidades. Algunos de los principios sobre los que se basa se mencionan a continuación:
  • Privacidad por Diseño y por Defecto.
  • Recopilación de Datos y Límites del Alcance del Caso de Uso.
  • Identificación y mitigación de riesgos.
  • Seguridad que Preserva la Privacidad.
• Aviso y Notificación. El individuo debe ser informado de que un sistema automatizado esta siendo utilizado y debe entender como este sistema lo impacta. La información debe ser establecida en un lenguaje lo mejor comprensible que sea posible. Algunos principios sobre los que se basa se mencionan a continuación:
  • Documentación en Lenguaje Sencillo Generalmente Accesible.
  • Responsable.
  • Oportuna y Actualizada.
  • Breve y Clara.
• Alternativas Humanas, Consideración y Respaldo. Debe ser posible para el individuo poder optar por una opción de atención humana en lugar de un sistema automatizado, cuando corresponda. De los principios a la práctica:
  • Aviso e Instrucciones Breves, Claras y Accesibles.
  • Alternativas Humanas Proporcionadas cuando sea Apropiado.
  • Alternativa Humana Oportuna y No Onerosa.

Aún con este marco regulatorio, los trabajos basados en inteligencia artificial y su aplicación pasarán por un marco social que pondrá a prueba las leyes y regulaciones de cada país. Son tiempos de una aceleración tecnológica sin precedentes que deben ser aprovechados por la humanidad para su bienestar, de otra manera, pueden ser perjudiciales en los aspectos físicos y/o psicológicos.

Si deseas ver el documento completo, puedes dar  >>>> Click Aquí <<<<