La Inteligencia Artificial y la ética
De acuerdo con un informe de Fico (empresa de Inteligencia Artificial), 65 % de las empresas no puede explicar cómo los modelos de Inteligencia Artificial toman decisiones y realizan predicciones, el informe indaga acerca del papel de la ética en la Inteligencia Artificial y si esta se usa al momento de entrenar a los motores.
El 59% de las organizaciones ya publicó métricas para el desarrollo y gobierno de modelos ética e Inteligencia Artificial en su interior. Sin embargo, el 73% de los encuestados considera un desafío que la dirección priorice las prácticas de Intelligencia Artificial y ética responsable, ya que el 67% expresó que la junta directiva de su empresa no tiene conocimiento sobre Inteligencia Artificial.
Una manera de contribuir con la ética en el uso de la Inteligencia Artificial es monitoreando los modelos que se aplican, identificar características latentes del modelo para monitorear la ética de Inteligencia Artificial, como hace el 45% de los encuestados, o replicar lo que hace un 43% que se basa en estadísticas para descubrir cambios potenciales en los datos de producción.
La Inteligencia Artificial es importante en los modelos de negocio, pero solo para un 20% es relevante cuidar la ética. Otro 30% dice que este tema será considerado en los siguientes tres o cinco años; 32% entre uno y dos años, y solo para un 15% será prioritario los siguientes 12 meses.
Los modelos de Inteligencia Artificial tienen cierto potencial de uso incorrecto. Así las cosas, el informe indica que los cinco modelos más riesgosos son el Procesamiento de Lenguaje Natural, Reconocimiento de Voz, Datos Sintéticos, Árboles de Decisión y Aprendizaje de Reglas por Asociación.
En cuanto a los sesgos en seguridad, el 60% de las organizaciones evalúa la imparcialidad de los resultados; 55% aíslan, evalúan al modelo latente y hacen pruebas para identificar sesgos; 50% detectan sesgos en datos no estructurados.
