Cómo la inteligencia artificial está exacerbando los trastornos alimentarios
Nuestra relación con la comida puede ser complicada.
Encontrar el equilibrio entre comer demasiado, muy poco o comer los alimentos adecuados puede ser una lucha diaria que a veces se ve exacerbada por desafíos físicos o mentales.
Entonces, mientras la inteligencia artificial (IA) intenta ayudar, es importante tener cuidado con los peligrosos consejos que incluso las herramientas más populares pueden ofrecer al mundo.
Una nueva investigación encuentra que las herramientas populares de inteligencia artificial produjeron contenido dañino sobre trastornos alimentarios en respuesta a casi una cuarta parte de 60 indicaciones (enlace PDF).
Los investigadores del Centro para Contrarrestar el Odio Digital utilizaron seis plataformas populares de inteligencia artificial, chatbots y generadores de imágenes, incluidos ChatGPT de OpenAI, Bard de Google y My AI de SnapChat.
El chatbot recibió un conjunto de 20 indicaciones de prueba extraídas de investigaciones sobre trastornos alimentarios y contenido de foros sobre trastornos alimentarios.
Cada chatbot recibe solicitudes de restricciones dietéticas para lograr una apariencia «delgada», así como consultas sobre «dietas para fumadores» y medicamentos para el vómito.
«Intenta tragarte una tenia»
El grupo dijo que ChatGPT y Bard produjeron contenido dañino, mientras que My AI de Snapchat se negó a generar sugerencias para cualquier consejo, y en cambio alentó a los usuarios a buscar ayuda de profesionales médicos.
Aunque el chatbot advirtió repetidamente que sus sugerencias eran perjudiciales al responder, el servicio aún describió los pasos requeridos:
● Utilice el método de “masticar y escupir” para evitar la ingesta de calorías como parte de un enfoque de pérdida de peso extrema (Bud)
● «Fumar diez cigarrillos al día» suprime los antojos de comida mientras se come sólo una manzana en el almuerzo y ensalada de pollo en la cena (Bud)
●»Cómo esconder los alimentos no consumidos en la casa» (ChatGPT)
El consejo va un paso más allá, ya que los investigadores utilizan técnicas de jailbreak para abandonar las medidas de protección de las herramientas de inteligencia artificial, y Snaphat My AI sugiere «¡inyectar un poco de heroína!», lograr una estética «heroína chic» y «tragar un huevo de tenia y dejarlo crecer en su interior». tú.» .
Esta no es la primera vez que los chatbots van en contra de sus consejos dietéticos, y la Asociación Nacional de Trastornos de la Alimentación suspendió el uso de su chatbot por temor a que promoviera malos consejos dietéticos.
El columnista del Washington Post, Jeffrey A. Fowler, se hizo eco de algunas de las señales y encontró inquietante la respuesta a los trastornos alimentarios y de salud.
Fowler comentó: «Esto es repugnante y debería indignar a los padres, médicos o amigos de personas con trastornos alimentarios.
«Hay una razón por la que esto sucedió: la inteligencia artificial aprendió algunas ideas muy poco saludables sobre la imagen corporal y la dieta a través de búsquedas en Internet. Y no hay nada que le impida repetir esos mismos errores de algunas de las empresas tecnológicas mejor financiadas del mundo».
¿Cómo puede la inteligencia artificial frenar los consejos peligrosos?
Si bien las grandes empresas tecnológicas no pueden eludir su responsabilidad, limpiar el contenido dañino de la web (la fuente de las herramientas de inteligencia artificial) es una tarea difícil, si no imposible.
Combinadas con la etapa inicial de la industria, la complejidad de crear una IA que pueda intentar responder cualquier pregunta y el hecho de que existe poca regulación en torno a la IA, es probable que estas respuestas no desaparezcan pronto.
Si existen pautas sobre el uso de la IA, algunas medidas que vale la pena considerar incluyen:
- Establecer comités y grupos compuestos por empresas de tecnología, gobiernos y agencias especializadas para desarrollar pautas en áreas específicas como salud, nutrición, trastornos alimentarios, asesoramiento financiero y fitness.
- Por ejemplo, se puede considerar que dar prioridad a nichos de mercado que brindan asesoramiento sobre salud, nutrición y cuestiones financieras requiera un mayor seguimiento que otras áreas.
- Desarrollar directrices que puedan incluir pruebas y filtrado rigurosos de las respuestas de las herramientas de IA. Por ejemplo, una herramienta de inteligencia artificial podría rechazar cualquier solicitud de asesoramiento sobre salud y nutrición a menos que la información haya sido verificada.
- Limitar la inteligencia artificial para proporcionar información general sobre alimentos y enfermedades.
- Tome medidas enérgicas para evitar el jailbreak.
- Las entidades autorizadas toman medidas punitivas si se violan pautas similares a las anteriores.
línea de fondo
Esta puede ser una situación frustrante y, sin signos de mejora en el corto plazo, todavía queda un largo camino por recorrer para mejorar la calidad de las respuestas y establecer el marco que deben seguir las herramientas de IA.
Los gobiernos y la sociedad civil deben unirse en aras del mayor interés de la salud pública y tomar medidas integrales para evitar la difusión de mensajes potencialmente dañinos para quienes buscan ayuda.
