 señala a EFE el peligro de una carrera en el sector por crear una super IA o inteligencia artificial general (IAG) que sea tan o más inteligente que el ser humano.Carroll Wainwright renunció la semana pasada a su puesto como parte del equipo de alineamiento práctico y superalineamiento, que vigila que los modelos más potentes de OpenAI sean seguros y vayan en consonancia con los valores humanos.Una IA más inteligente que los humanosCuando se lanzó -y con un éxito que sorprendió hasta a la propia empresa- el 'chatbot' ChatGPT, Wainwright empezó a trabajar en un equipo de superalineamiento para investigar, a medida que OpenAI obtenía modelos cada vez más inteligentes, las intervenciones técnicas que se pueden realizar para mantener el control sobre ellos.A diferencia de la IA generativa, la IAG no solo sería capaz de reproducir las acciones humanas -como escribir o dibujar, cosa que ya hace la IA generativa- sino que también comprendería la complejidad y el contexto de sus acciones.Esta tecnología aún no existe. Algunos expertos, como Elon Musk, predicen que se creará en unos dos años, mientras que otros como Robin Li, director ejecutivo de Baid, una de las mayores tecnológicas de China, dice que llegará en una década.Wainwright cree que podría verse en unos cinco años: "¿Seguro que sucederá en cinco años? No, pero creo que es posible. También es posible que lleve mucho más tiempo. Pero si hay algo que potencialmente puede cambiar el mundo, deberíamos tomárnoslo muy, muy en serio", matiza.No obstante, el extrabajador señala que el motivo por el que renunció y luego firmó la carta no se debe a que encontró algo "aterrador", ya que por ahora OpenAI solo está investigando la posibilidad de crear tecnología. RELACIONADAS Actualidad Trabajadores de empresas de IA alertan sobre opacidad de compañías ante posibles riesgos El cambio de OpenAIEl principal detonante de su renuncia fue el cambio de visión de la compañía, que comenzó como un laboratorio de investigación sin fines de lucro "con la misión de que esta tecnología realmente beneficie a la humanidad", tras el enorme éxito ChatGPT en 2022."Creo que las motivaciones que impulsan a OpenAI en sus acciones cotidianas son casi en su totalidad incentivos para obtener ganancias", asegura Wainwright.Los principales riesgos de la IAGWainwright subraya tres riesgos de la IAG: que las máquinas sustituyan a los trabajadores -sobre todo de los trabajos cualificados-, el impacto social y mental, ya que la gente podría tener un amigo/asistente personal de IA y, por último, el control de la tecnología."El riesgo de alineación a largo plazo se produce si se obtiene un modelo que es más inteligente que los humanos. ¿Cómo se puede estar seguro de que ese modelo realmente está haciendo lo que el humano desea que haga o que la máquina no tenga un objetivo propio? Y si tiene un objetivo propio es preocupante", explica.Wainwright piensa que las grandes empresas de la IA respetarán las regulaciones, el problema es que por el momento no se han implantado, es por ello que los empleados de este sector piden en su carta que se cree un sistema en el que los trabajadores puedan alertar a un organismo independiente de los peligros que ven en sus empresas.Según el exempleado, el problema de los gigantes de la IA no es la falta de seguridad, sino la rapidez a la que se enfrentan debido a la rivalidad de las empresas, sobre todo entre OpenAI y Google."El hecho de que nadie quiera que ocurra un desastre no significa que vayan a tomarse el tiempo para asegurarse de que no suceda. Ya que existe el incentivo de competir y vencer a todos los demás", resalta.El Parlamento Europeo ratificó en marzo la ley de IA de la Unión Europea (UE), la primera que regula esta tecnología en el mundo, aunque no será hasta 2026 cuando entre en vigor y, según anunció hoy la prensa especializada, los reguladores de Estados Unidos abrirán investigaciones antimonopolio contra Microsoft, OpenAI y Nvidia para analizar su influencia en el sector. ){kind=link}
Un ex empleado de OpenAI que firmó una carta junto con otros trabajadores de la empresa creadora de ChatGPT para denunciar la falta de transparencia en los posibles riesgos de la inteligencia artificial (IA) advierte sobre la amenaza de una carrera en el sector para desarrollar una super IA o inteligencia artificial general (IAG) que sea igual o más inteligente que los humanos.
Carroll Wainwright renunció recientemente a su cargo en el equipo de alineamiento práctico y superalineamiento de OpenAI, cuya función es garantizar que los modelos más avanzados de la empresa sean seguros y estén alineados con los valores humanos.
Una IA más inteligente que los humanos
Cuando se lanzó con éxito el 'chatbot' ChatGPT, Wainwright se unió a un equipo de superalineamiento para investigar cómo mantener el control sobre los modelos cada vez más inteligentes de OpenAI. A diferencia de la IA generativa, la IAG no solo puede replicar acciones humanas como escribir o dibujar, sino también comprender la complejidad y el contexto de esas acciones.
A pesar de que esta tecnología aún no existe, hay predicciones sobre su creación en uno o dos años. Wainwright sugiere que podría ser una realidad en unos cinco años y subraya la importancia de tomarse en serio cualquier avance potencialmente transformador.
Sin embargo, su renuncia y firma de la carta no se debió a encontrar algo aterrador, ya que OpenAI actualmente solo está explorando la posibilidad de desarrollar esta tecnología.
El cambio de OpenAI
La principal razón de su renuncia fue el cambio de enfoque de la empresa, que pasó de ser un laboratorio de investigación sin fines de lucro a centrarse en la obtención de beneficios, especialmente después del éxito de ChatGPT en 2022.
Wainwright señala que la mayoría de las acciones de OpenAI ahora están motivadas por incentivos de lucro, lo cual le preocupa.
Los principales riesgos de la IAG
Wainwright destaca tres riesgos de la IAG: la sustitución de trabajadores por máquinas, el impacto social y mental en las personas que podrían depender de una IA personal, y el desafío de mantener el control sobre la tecnología.
El ex empleado cree que las grandes empresas de IA cumplirán con las regulaciones, pero actualmente la falta de estas regulaciones es un problema. Por eso, los trabajadores del sector solicitan la creación de un sistema para que puedan alertar sobre riesgos a un organismo independiente.
Wainwright enfatiza que el desafío no es la seguridad en la IA, sino la rapidez con la que las empresas compiten entre sí, principalmente entre OpenAI y Google.
Aunque el Parlamento Europeo ratificó una ley de IA en la Unión Europea y Estados Unidos está investigando a empresas como Microsoft, OpenAI y Nvidia por posibles monopolios en el sector, aún queda mucho por hacer en cuanto a la regulación de esta tecnología.
Somos EL TESTIGO. Una forma diferente de saber lo que está pasando. Somos noticias, realidades, y todo lo que ocurre entre ambos.
Todo lo vemos, por eso vinimos aquí para contarlo.