Meta to alert parents if teens discuss self-harm with AI chatbots
- Meta Platforms Inc. ha anunciado el desarrollo de nuevas funciones de seguridad para sus chatbots de inteligencia artificial, diseñadas específicamente para proteger a los usuarios menores de edad.
- La medida consiste en un sistema de alertas que notificará a los padres o supervisores, y en algunos casos a los servicios de emergencia, si un adolescente menciona temas relacionados con el suicidio o las autolesiones durante la interacción con la IA.
- Mientras que la cobertura internacional destaca la naturaleza preventiva de la medida y subraya que la iniciativa ha sido desarrollada con el apoyo de expertos en salud mental, los reportes señalan que estas herramientas buscan abordar una necesidad crítica de seguridad en entornos digitales para usuarios vulnerables.
Cobertura más reciente
Meta creates monitoring tool for kids using its chatbot to discuss self-harm — and alerts their parents
New York Post · actualizado hace 6 h
Primera cobertura
Meta to alert parents if teens discuss self-harm with AI chatbots
Globe And Mail · actualizado hace 13 h
Cómo cubre la prensa esta historia
Fuentes que cubren esta historia
Cobertura relacionada según nuestro monitoreo. NewsRadar resume la conversación y enlaza a los medios originales.
Meta creates monitoring tool for kids using its chatbot to discuss self-harm — and alerts their parents
Meta está introduciendo nuevas funciones de seguridad en sus chatbots de IA para proteger a los adolescentes de riesgos de autolesión y suicidio. El sistema utiliza una IA especializada para detectar conversaciones sensibles, las cuales son revisadas manualmente antes de alertar a los padres mediante las herramientas de supervisión de Instagram. Desarrollada junto a especialistas en salud mental, la iniciativa busca proporcionar recursos de crisis y dirigir a los usuarios a líneas de ayuda. Estas actualizaciones responden a la creciente presión regulatoria en el Reino Unido.
Leer en el medio originalMeta: Parent alert if child talks suicide with AI chatbot
Meta está desarrollando nuevas funciones de seguridad para su chatbot de IA con el fin de proteger a usuarios vulnerables. La empresa planea implementar un sistema de alerta que notifique a los padres si un menor menciona el suicidio durante la interacción con la IA. Además, Meta trabaja en un mecanismo para contactar a los servicios de emergencia cuando las conversaciones con adultos o adolescentes sugieran un riesgo de autolesión. Estas medidas buscan mitigar los riesgos potenciales para la salud mental asociados al uso de inteligencia artificial generativa.
Leer en el medio originalMeta to alert parents if their child discusses suicide with AI chatbot
Meta Platforms Inc. ha introducido nuevas funciones de seguridad diseñadas para alertar a padres y servicios de emergencia cuando los adolescentes discuten el suicidio o las autolesiones con su chatbot Meta AI. Aunque los expertos reconocen que estas herramientas abordan una necesidad crítica de seguridad juvenil en redes sociales, persiste la preocupación sobre su efectividad, ya que los usuarios podrían evadir la detección mediante el uso de lenguaje cifrado. Estos avances coinciden con los esfuerzos del gobierno federal canadiense por implementar nueva legislación que regule los estándares de seguridad en redes sociales e inteligencia artificial.
Leer en el medio originalMeta to alert parents if teens discuss self-harm with AI chatbots
Meta implementará nuevas funciones de seguridad en la IA de Instagram para proteger a los adolescentes, alertando a los padres supervisores si un menor menciona autolesiones o suicidio con los chatbots. La iniciativa, desarrollada con expertos en salud mental, incluye alertas proactivas para padres y notificaciones a servicios de emergencia en casos de riesgo inminente. Estas actualizaciones se alinean con la Ley de Redes Sociales Seguras de Canadá, que exige protocolos de intervención en crisis para empresas de IA. El objetivo es mitigar los riesgos de que los chatbots refuercen conductas nocivas.
Leer en el medio originalLínea de tiempo
Orden cronológico de la cobertura detectada por NewsRadar.
Primera fuente detectada por NewsRadar
Globe And MailMeta to alert parents if teens discuss self-harm with AI chatbots