El planazo pionero de China para evitar que los chatbots de IA aconsejen mal: recurrir a los humanos cuando hay temas espinosos
China planea restringir que los chatbots con inteligencia artificial influyan en las emociones humanas de maneras que puedan llevar al suicidio o la...
China planea restringir que los chatbots con inteligencia artificial influyan en las emociones humanas de maneras que puedan llevar al suicidio o la autolesión o incluso a apostar en juegos de azar, según un borrador de las normas que se han hecho públicas esta semana. Los chatbots, al estilo de ChatGPT tan usado en Europa o del reconocido DeepSeek de China, que simulan la personalidad humana e involucran emocionalmente a los usuarios a través de texto, imágenes, audio o video... Pueden tener muchas consecuencias negativas. Al fin y al cabo no son personas expertas en la psicología humana, sino máquinas entrenadas con millones de datos varios. Ya hay casos de suicidios de adolescentes incitados por una IA e incluso han demandado a OpenAI por este motivo. Las normas planificadas por Pekín marcarían el primer intento mundial de regular la IA con características humanas o antropomórficas, tal y como ha explicado Winston Ma, profesor adjunto de la Facultad de Derecho de la Universidad de Nueva York. El oaís tiene una regulación para la IA generativa del año 2023,pero según el experto esta versión "marca un salto de la seguridad del contenido a la seguridad emocional". Como recoge CNBC, el borrador de las normas propone que: Dejar la IA y pasar a humanos. Los chatbots de IA no pueden generar contenido que incite al suicidio o la autolesión, ni incurrir en violencia verbal o manipulación emocional que dañe la salud mental de los usuarios. Según el borrador, si un usuario propone específicamente el suicidio, los proveedores de tecnología deben hacer que una persona tome las riendas de la conversación y contactar inmediatamente con el tutor del usuario o con una persona designada. Fuera los juegos de azar. Los chatbots de IA no deben generar contenido relacionado con juegos de azar, ni tampoco contenidos de caracter obsceno o violento. Un control a los menores de edad, sin excluirlos.