Sam Altman, presidente de Y Combinator
Patricio T. Fallon | alcalde Bloomberg | alcalde Bloomberg | imágenes falsas
El CEO de OpenAI, Sam Altman, dijo que está de acuerdo con partes de una carta abierta del Future of Life Institute firmada por líderes tecnológicos. tesla El CEO Elon Musk y manzana El cofundador Steve Wozniak pidió una interrupción de seis meses en la investigación de la IA, pero agregó que la carta “pasó por alto el punto más técnico sobre dónde debemos hacer una pausa”.
Altman hizo los comentarios el jueves durante una presentación en video en un evento del MIT sobre negocios e IA.
OpenAI crea ChatGPT, un bot de IA que puede responder a las consultas de los usuarios de forma similar a la humana. El bot inició la moda de la IA en el mundo de la tecnología. microsoft Bing usa la tecnología OpenAI en su chatbot y Google lanzó recientemente su competidor Bard.
“Creo que proceder con cautela y un mayor rigor por cuestiones de seguridad es realmente importante”, continuó Altman. “No creo que esta carta haya sido la mejor manera de lidiar con eso”.
En marzo, Musk, Wozniak y docenas de otros académicos pidieron una pausa inmediata en los “experimentos” de entrenamiento que involucraban modelos de lenguaje grande que eran “más poderosos que GPT-4”, el modelo insignia de lenguaje grande de OpenAI, o LLM. Desde entonces, más de 25.000 personas han firmado la carta.
La tecnología GPT de OpenAI ganó atención internacional cuando se lanzó ChatGPT en 2022. Bajo tecnología GPT microsoftEl chatbot de IA de Bing y la explosión de la inversión en IA.
“Los laboratorios de IA y los expertos independientes deberían usar este período para desarrollar e implementar conjuntamente un conjunto de protocolos de seguridad comunes para el diseño y desarrollo avanzado de IA que sean auditados rigurosamente”, decía la carta, y monitoreados por expertos externos independientes.
“También estoy de acuerdo en que, a medida que las capacidades se vuelven más y más serias, el nivel de seguridad se eleva”, dijo Altman en el evento del MIT.
A principios de este año, Altman admitió que la tecnología de inteligencia artificial lo asustó “un poco”. Han surgido preguntas sobre el uso seguro y ético de la IA en la Casa Blanca, en el Capitolio y en las salas de juntas de todo Estados Unidos.
“Estamos haciendo otras cosas además de GPT-4 que creo que tienen todo tipo de problemas de seguridad que deben abordarse y dejarlos completamente fuera de lugar”, dijo el ejecutivo de OpenAI.