OpenAI está trabajando en la reorganización de sus equipos de investigación de Inteligencia Artificial (IA), entre ellos, su equipo de Comportamiento de Modelos que pasará a formar parte del equipo de Postentrenamiento, de cara a crear un nuevo equipo OAI Labs para inventar nuevas interfaces de colaboración entre personas e IA.
El grupo de Comportamiento de Modelos de OpenAI es un equipo conformado por 14 investigadores cuya labor es administrar cómo interactúan los modelos de IA con los usuarios en sus solicitudes del día a día. Es decir, supervisan cuestiones como la personalidad o tono de respuesta del modelo, en base a cómo se relacionan con las personas.
Sin embargo, el director de investigación de la tecnológica estadounidense, Mark Chen, ha detallado cambios de reorganización para este equipo de Comportamiento, que ahora pasará a formar parte del equipo de Postentrenamiento de OpenAI, encargado de mejorar y solucionar errores de los modelos tras su entrenamiento inicial.
Así lo ha confirmado la compañía liderada por Sam Altman en declaraciones a TechCrunch, quien ha accedido a un informe interno en el que se indica que el equipo de Comportamiento de Modelos pasará a estar a cargo del responsable del equipo de Postentrenamiento, Max Schwarzer.
Cabe destacar que, tal y como ha señalado el medio citado, el equipo de Comportamiento de Modelos es el encargado de reducir conductas dañinas como la adulación hacia los usuarios, ofreciendo respuestas que refuerzan sus opiniones, incluso si estas son poco saludables. De igual manera, también equilibra el sesgo político u otros comportamientos similares.
Por tanto, Chen ha subrayado que, al integrar este equipo en uno más grande, como es el de Postentrenamiento, la compañía pretende utilizar sus habilidades para el desarrollo de sus modelos centrales, poniendo la personalidad de la IA en el centro de la evolución de sus tecnologías.
NUEVO EQUIPO DE INVESTIGACIÓN OAI LABS
Igualmente, como parte de esta reorganización, OpenAI también está trabajando en la creación de un nuevo equipo de investigación llamado OAI Labs. Este proyecto estará a cargo de la fundadora del equipo de Comportamiento de Modelos, Joanne Jang, y se basará en un grupo encargado de «inventar y desarrollar prototipos de nuevas interfaces para la colaboración entre personas y la IA».
Tal y como ha compartido Jang en una publicación en la red social X, este nuevo proyecto se centrará en «explorar patrones que lleven «más allá del paradigma del chat o incluso de los agentes». Para ello, se basará en el trabajo que ha estado realizando en los últimos cuatro años en la empresa, desde Dall-e 2 y el modo de voz estándar, hasta GPT-4 y la disciplina de comportamiento del modelo.
«He aprendido cuánto puede la forma de una interfaz invitar a las personas a empujar los límites de lo que parece posible», ha sentenciado Joang, al tiempo que ha subrayado que piensa en los sistemas de IA como «instrumentos para pensar, crear, jugar, hacer, aprender y conectar», por lo que enfocará en este ámbito el trabajo de OAI Labs.
