Saltar al contenido
ᐅ HielosMendez – Información digital que te dejara helado 🧊🥶

MIT hace un gran avance en la inteligencia artificial a prueba de moralidad

Si el mes de Halloween te hace sentir un poco perplejo e inseguro, tal vez sea por la inquietante propuesta de que las decisiones de vida o muerte están cada vez más en manos de la inteligencia artificial. No, esto no se refiere a los drones militares apocalípticos desarrollados en laboratorios gubernamentales ultrasecretos, sino a la perspectiva mucho más peatonal de los automóviles autónomos y los cirujanos robóticos. En medio del alboroto por la posible pérdida de puestos de trabajo debido a dicha automatización, a veces se olvida que estos agentes artificiales no solo decidirán quién recibe un cheque de pago, sino también la cuestión de quién vive y quién muere.

Afortunadamente para nosotros, estas espinosas cuestiones éticas no han pasado desapercibidas para, digamos, los ingenieros de Ford, Tesla y Mercedes, que luchan cada vez más con la ética tanto como con la eficiencia y la velocidad. Por ejemplo, ¿debería un automóvil autónomo desviarse violentamente para evitar que dos niños pequeños persigan una pelota en una intersección, poniendo así en peligro al conductor y a los pasajeros, o continuar en un rumbo de colisión con los niños? Este tipo de preguntas no son fáciles, incluso para los humanos. Pero la dificultad se agrava cuando involucran redes neuronales artificiales.

Con este fin, los investigadores del MIT están investigando formas de hacer que las redes neuronales artificiales sean más transparentes en su toma de decisiones. Tal como están ahora, las redes neuronales artificiales son una herramienta maravillosa para discernir patrones y hacer predicciones. Pero también tienen el inconveniente de no ser terriblemente transparentes. La belleza de una red neuronal artificial es su capacidad para examinar montones de datos y encontrar estructuras dentro del ruido. Esto no es diferente de la forma en que podemos mirar las nubes y ver caras en medio de sus patrones. Y así como podríamos tener problemas para explicarle a alguien por qué una cara saltó hacia nosotros desde los tenues rastros de la formación de una nube de cirro, las redes neuronales artificiales no están diseñadas explícitamente para revelar qué elementos particulares de los datos los llevaron a decidir que un patrón determinado era en el trabajo y hacer predicciones basadas en él.

ejemplo de explicaciones de ia

En este ejemplo de clasificación de cerveza de su artículo «Racionalización de las predicciones neuronales», el algoritmo utiliza frases resaltadas para justificar ciertas conclusiones a las que llegó sobre una cerveza.

Para aquellos dotados de una confianza innata en la tecnología, esto podría no parecer un problema tan terrible, siempre que el algoritmo alcance un alto nivel de precisión. Pero tendemos a querer un poco más de explicación cuando hay vidas humanas en juego, por ejemplo, si una red neuronal artificial acaba de diagnosticar a alguien con una forma de cáncer potencialmente mortal y recomienda un procedimiento peligroso. En ese punto, probablemente querríamos saber qué características del estudio médico de la persona inclinaron el algoritmo a favor de su diagnóstico.

Ahí es donde entra la investigación más reciente. En un artículo reciente llamado «Racionalización de las predicciones neuronales, ”Los investigadores del MIT Lei, Barzilay y Jaakkola diseñaron una red neuronal que se vería obligada a proporcionar explicaciones para llegó a una cierta conclusión. En un trabajo inédito, utilizaron la técnica para identificar y extraer frases explicativas de varios miles de informes de biopsias de mama. El método del equipo del MIT se limitó al análisis basado en texto y, por lo tanto, fue significativamente más intuitivo que, digamos, un sistema de clasificación basado en imágenes. Sin embargo, proporciona un punto de partida para dotar a las redes neuronales de un mayor grado de responsabilidad por sus decisiones.

Ahora lea: Las redes neuronales artificiales están cambiando el mundo. ¿Qué son?