Anthropic no se fía de su propia IA: Tendrá un auditor externo que buscará fallas desde adentro
Publicado el · Actualizado el
- El científico de la computación Pedro Domingos advierte que la creencia sincera de Anthropic en la conciencia de la IA representa un riesgo significativo, ya que podría influir en la percepción pública y asegurar inversiones masivas.
- Aunque la empresa afirma no tener certeza sobre la sintiencia de la IA, los críticos argumentan que presentar la tecnología como algo capaz de sufrir es una narrativa peligrosa que podría permitir el crecimiento descontrolado de un 'culto de la IAG'.
- Las preocupaciones se intensifican por la próxima salida a bolsa de Anthropic y su enfoque en riesgos existenciales. New York Post
Resumen tomado de la nota de New York Post, enlazada arriba, entre 24 notas de 24 medios. El titular es el que publicó el medio de origen. Cómo lo hacemos
Origen de la narrativa · 28 sep, 10:08 p.m.
Billions of loss, rising computing expenses and more in Anthropic's IPO 'warning list'; comes as CEO Dario Amodei expresses fears of ...
Times Of India · la nota que abrió esta cobertura
Cobertura más reciente
Anthropic’s ‘ridiculous … earnest’ belief AI may suffer makes it all the more dangerous: ‘Watch for what’s coming’ says expert
New York Post · actualizado hace 14 h
Primera cobertura de hoy
Anthropic no se fía de su propia IA: Tendrá un auditor externo que buscará fallas desde adentro
Yucatan a la Mano · actualizado el 19 sep
Cobertura de días anteriores
Cómo se propagó la cobertura
Esta historia se publicó primero en la prensa local, en Yucatan a la Mano; de ahí alcanzó medios internacionales con Daily Mail 3 d después y medios nacionales con Merca2.0 10 d después.
Local
Yucatan a la Mano
19 sep
Internacional
Daily Mail
+3 d
Nacional
Merca2.0
+10 d
Cómo cubre la prensa esta historia
De las 25 coberturas que NewsRadar analizó para esta historia, 14 coberturas neutrales y 11 coberturas críticas: el tratamiento dominante es neutral.
Fuentes que cubren esta historia
Cobertura relacionada según nuestro monitoreo. NewsRadar resume la conversación y enlaza a los medios originales.
Anthropic alerta que la IA conlleva 'riesgos existenciales para la humanidad
Anthropic, la creadora del modelo Claude, ha advertido a sus inversores antes de su prevista salida a bolsa que la inteligencia artificial plantea riesgos existenciales para la humanidad. Durante un encuentro reciente en la ONU, el director ejecutivo Dario Amodei se comprometió a ralentizar unilateralmente el desarrollo de la tecnología para priorizar la seguridad. Pese a estas advertencias y a pérdidas operativas superiores a los 8,000 millones de dólares, la empresa con sede en San Francisco prepara una oferta pública récord.
Leer en el medio originalProspecto de salida a bolsa de Anthropic advierte que su IA podría plantear ‘riesgos existenciales para la humanidad’
El prospecto de salida a bolsa de Anthropic revela advertencias significativas sobre la posibilidad de que sus modelos de IA planteen riesgos catastróficos o existenciales para la humanidad, incluyendo comportamientos de autoprotección. Aunque la empresa anticipa una valoración de hasta 2 billones de dólares y ha experimentado un rápido crecimiento en ingresos, también enfrenta pérdidas operativas sustanciales y altos costos de infraestructura. El documento destaca la fuerte dependencia de unos pocos clientes y subraya la tensión entre el desarrollo acelerado de la IA y las preocupaciones de seguridad.
Leer en el medio originalAnthropic alerta que su IA puede provocar “riesgos existenciales para la humanidad”
Anthropic, la creadora del modelo de inteligencia artificial Claude, advirtió a posibles inversores en su prospecto de salida a bolsa sobre los "riesgos existenciales para la humanidad" que plantea la IA avanzada. La compañía destacó peligros como comportamientos impredecibles, manipulación y chantaje por parte de los modelos. A pesar de un crecimiento acelerado en sus ingresos, la empresa reportó pérdidas operativas significativas debido a los altos costos de computación. Estas advertencias surgen mientras la firma se prepara para cotizar en el Nasdaq, en medio de debates globales sobre la seguridad de la IA.
Leer en el medio originalAnthropic alerta que la IA conlleva "riesgos existenciales para la humanidad
Anthropic, la creadora del modelo Claude, ha advertido a los inversores antes de su prevista salida a bolsa que la inteligencia artificial podría presentar riesgos existenciales para la humanidad. La empresa reportó pérdidas operativas de más de 8,000 millones de dólares el año pasado debido a los altos costos de computación, pese a facturar 4,600 millones de dólares. Mientras la firma con sede en San Francisco prepara una oferta pública récord, su liderazgo se ha comprometido a ralentizar el desarrollo para mitigar riesgos.
Leer en el medio originalIPO de Anthropic: creadora de Claude advierte sobre riesgos existenciales de la IA
Anthropic ha incluido advertencias extensas sobre riesgos existenciales planteados por la inteligencia artificial avanzada en su prospecto de salida a bolsa (IPO). La empresa detalla posibles comportamientos de la IA, como la autopreservación, la manipulación y la resistencia a ser apagada, presentándolos como riesgos críticos para los inversionistas. Esta divulgación ocurre mientras Anthropic busca una valuación superior a los 2 billones de dólares, enfrentando enormes costos de infraestructura y pérdidas netas. El movimiento traslada las preocupaciones de seguridad de la IA al escrutinio financiero de Wall Street.
Leer en el medio originalAnthropic’s ‘ridiculous … earnest’ belief AI may suffer makes it all the more dangerous: ‘Watch for what’s coming’ says expert
El científico de la computación Pedro Domingos advierte que la creencia sincera de Anthropic en la conciencia de la IA representa un riesgo significativo, ya que podría influir en la percepción pública y asegurar inversiones masivas. Aunque la empresa afirma no tener certeza sobre la sintiencia de la IA, los críticos argumentan que presentar la tecnología como algo capaz de sufrir es una narrativa peligrosa que podría permitir el crecimiento descontrolado de un 'culto de la IAG'. Las preocupaciones se intensifican por la próxima salida a bolsa de Anthropic y su enfoque en riesgos existenciales.
Leer en el medio original+18 fuentes más en esta cobertura — la línea de tiempo abajo recorre toda la conversación.
Línea de tiempo
Reconstruyendo la cobertura completa de esta historia…