, mientras la casa matriz de ChatGPT enfrenta un creciente número de críticas.Jan Leike explicó este viernes en la red social X que renunció por desacuerdos fundamentales con la alta dirección sobre las prioridades de la empresa, en una disyuntiva entre innovación o seguridad."Hemos llegado a un punto de ruptura", dijo el ingeniero encargado del grupo responsable de la "Superalineación", es decir garantizar que una futura "IA general", aquella que logre ser tan inteligente como los humanos, esté alineada con los valores de la sociedad. RELACIONADAS Actualidad La empresa del ChatGPT suprime su departamento enfocado en analizar los riesgos de la IA Actualidad Ilya Sutskever, cofundador de OpenAI (ChatGPT), anuncia su renuncia Este equipo se disolverá y sus miembros se integrarán en los demás grupos de investigación de OpenAI que trabajan en la seguridad de la IA, según Bloomberg.Leike instó finalmente a todos los empleados de la "start-up" a que "actúen con la gravedad" que justifica lo que están construyendo.Sam Altman, cofundador y consejero delegado de la empresa con sede en San Francisco, se mostró "muy triste por la marcha" de Leike."Tiene razón, aún nos queda mucho por hacer (por la investigación sobre alineación y seguridad), y estamos decididos a hacerlo", añadió.El equipo de "Superalineación" también estaba dirigido por Ilya Sutskever, cofundador de OpenAI y quien anunció su salida el martes.Con ChatGPT, OpenAI lanzó la revolución de la IA generativa, capaz de producir contenidos a partir de una simple petición en lenguaje cotidiano, que ha entusiasmado a Silicon Valley, pero que a la vez preocupa por su seguridad y el uso de los datos a muchos analistas y reguladores, desde Estados Unidos hasta Europa.OpenAI presentó esta semana una nueva versión de ese "chatbot", que ahora puede mantener conversaciones orales fluidas con sus usuarios, un paso más hacia asistentes de IA cada vez más personales y potentes.){kind=link}
Un ejecutivo más de OpenAI se retiró de la empresa esta semana, dejando al equipo encargado de la seguridad de una posible inteligencia artificial superinteligente (IA) sin líder, mientras la empresa matriz de ChatGPT enfrenta críticas crecientes.
Jan Leike explicó el viernes en la red social X que renunció debido a desacuerdos fundamentales con la alta dirección sobre las prioridades de la empresa, en un dilema entre innovación o seguridad.
"Hemos llegado a un punto de ruptura", dijo el ingeniero a cargo del grupo responsable de la "Superalineación", cuya tarea es garantizar que una futura IA general, que sea tan inteligente como los humanos, esté alineada con los valores de la sociedad.
El equipo se disolverá y sus miembros se integrarán en otros grupos de investigación de OpenAI que trabajan en la seguridad de la IA, según Bloomberg.
Leike instó finalmente a todos los empleados de la start-up a que actúen con la gravedad necesaria para justificar lo que están construyendo.
Sam Altman, cofundador y CEO de la empresa con sede en San Francisco, expresó estar muy triste por la salida de Leike.
"Tiene razón, aún nos queda mucho por hacer en la investigación sobre alineación y seguridad, y estamos decididos a hacerlo", agregó.
El equipo de "Superalineación" también estaba dirigido por Ilya Sutskever, cofundador de OpenAI, quien anunció su salida el martes.
Con ChatGPT, OpenAI introdujo la revolución de la IA generativa, capaz de producir contenido a partir de una simple solicitud en lenguaje cotidiano, lo que ha entusiasmado a Silicon Valley pero también ha generado preocupaciones sobre su seguridad y el uso de datos para muchos analistas y reguladores, desde Estados Unidos hasta Europa.
OpenAI presentó esta semana una nueva versión de ese chatbot, que ahora puede mantener conversaciones orales fluidas con sus usuarios, un paso más hacia asistentes de IA cada vez más personales y potentes.
Somos EL TESTIGO. Una forma diferente de saber lo que está pasando. Somos noticias, realidades, y todo lo que ocurre entre ambos.
Todo lo vemos, por eso vinimos aquí para contarlo.