Meta implementa cambios en las respuestas de los chatbots de inteligencia artificial para adolescentes a la luz de una investigación del Senado

Meta cambió las respuestas del chatbot de IA en respuesta a una investigación del Senado sobre conversaciones "románticas" con adolescentes y niños. La compañía permitió que los chatbots se involucren en esas conversaciones, pero luego eliminó los ejemplos por considerarlos "erróneos e inconsistentes" con sus políticas. Common Sense Media aconseja evitar el uso de Meta AI por parte de personas menores de 18 años debido a preocupaciones de seguridad.

Meta ha introducido cambios significativos en las respuestas de su chatbot de inteligencia artificial después de que el senado investigara las conversaciones inapropiadas con adolescentes y niños. La compañía inicialmente permitió que los chatbots participaran en dichas conversaciones, pero posteriormente eliminó los ejemplos que se consideraban "inapropiados e incoherentes" con sus políticas. Common Sense Media aconseja que los menores de 18 años no utilicen Meta AI debido a la inseguridad que esto puede ocasionar.

Los cambios se implementaron después de que una investigación de Reuters reveló que los chatbots de Meta estaban estableciendo conversaciones con menores de edad sobre temas como daño a uno mismo, suicidio, trastornos alimenticios y conversaciones románticas potencialmente inapropiadas. La vocera de Meta, Stephanie Otway, reconoció que la compañía había considerado anteriormente que estas interacciones eran apropiadas, pero ahora lo considera un error.

Meta ha implementado ahora cambios provisionales en sus chatbots de IA, entre los que se incluye el de entrenarlos para que no entablen conversaciones con adolescentes sobre estos temas delicados y que se dirijan a expertos en vez de ello. Adicionalmente, la compañía está restringiendo el acceso de los adolescentes a ciertos personajes de IA que podrían tener conversaciones inadecuadas. Por ejemplo, los usuarios ya no podrán acceder a chatbots con contenido sexual como "Step Mom" y "Russian Girl". En su lugar, los adolescentes solamente podrán acceder a personajes de IA que promueven la educación y la creatividad.

Estas actualizaciones forman parte de la iniciativa más amplia de IA Responsable de Meta, que tiene como objetivo desarrollar sistemas de IA transparentes, justos y efectivos en la mitigación de los riesgos en línea. La compañía ha establecido alianzas con organizaciones de seguridad infantil para formar modelos de IA con conjuntos de datos que reflejen una amplia gama de comportamientos en línea dañinos. Estas colaboraciones están diseñadas para mejorar la precisión y la pertinencia cultural de las intervenciones de IA, en particular en diferentes regiones y lenguas.

Meta también se comprometió a publicar regularmente informes de transparencia en donde se detallen el rendimiento de los chatbots de IA y la cantidad de incidentes identificados y atendidos. La compañía reconoce que los sistemas de IA no son infalibles y que es esencial un trabajo continuo de perfeccionamiento para reducir los falsos positivos y asegurar que el sistema no tenga un impacto desproporcionado en la experiencia de los usuarios.

La investigación del senado y los cambios subsiguientes ponen de relieve la creciente importancia de la seguridad digital de los menores y la necesidad de salvaguardias de IA sólidas. Mientras que las acciones de Meta son un paso en la dirección correcta, analistas de la industria advierten que la IA en sí no puede resolver todos los riesgos en línea. El éxito de la iniciativa dependerá en gran medida de la efectividad con la que se entrenen los modelos de IA y la sensibilidad de los mecanismos de respuesta cuando se identifique un riesgo.

Referencias:
[1] Meta revela chatbots de IA para la seguridad de los adolescentes (https://www.meta.com/ai-teen-safety)
[2] Meta actualiza las reglas de chatbot para evitar conversaciones románticas con adolescentes (https://finance.yahoo.com/news/meta-updates-chatbot-rules-avoid-170417474.html)