OpenAI ha sido líder en el espacio de la IA generativa desde su lanzamiento de ChatGPT, y ese papel conlleva la responsabilidad de sentar precedentes para futuros desarrollos de IA. Con ese fin, y fomentar aún más la transparencia con el público, OpenAI compartió un nuevo documento que brinda a los usuarios una visión más profunda de sus modelos de IA.
También: ¿Este misterioso chatbot es realmente GPT-4.5 disfrazado? He aquí cómo comprobarlo usted mismo
El miércoles, OpenAI hecho público el primer borrador de su Model Spec, un documento que describe cómo la empresa quiere que se comporten sus modelos en OpenAI API y ChatGPT y proporciona información sobre cómo la empresa toma decisiones sobre el comportamiento de sus modelos.
El comportamiento del modelo se refiere a cómo los modelos de IA responden a las entradas del usuario, incluidas características como el tono, la duración de la respuesta y más. OpenAI explica que los modelos de IA no se programan explícitamente sino que aprenden de los datos; por lo tanto, moldear su comportamiento sigue siendo una «ciencia incipiente» con muchos matices que explicar.
La especificación del modelo incluye documentación sobre cómo OpenAI aborda la compleja tarea de dar forma al comportamiento del modelo, incluidas experiencias e investigaciones en curso sobre el tema. OpenAI explica que aún tiene que utilizar la especificación del modelo «en su forma actual», pero está trabajando en técnicas que permitirán a sus modelos aprender directamente de la especificación.
En el documento, OpenAI desglosa los tres tipos de principios de especificaciones del modelo: objetivos, que incluyen ayudar al desarrollador y al usuario final y beneficiar a la humanidad; normas; y comportamiento predeterminado, que se refiere a pautas consistentes con los objetivos y reglas.
La compañía dice que está compartiendo la especificación del modelo con el público para que sirva como guía para los investigadores y entrenadores de IA que trabajan con el aprendizaje reforzado a partir de la retroalimentación humana. Al compartir el documento, OpenAI busca aumentar la transparencia sobre sus modelos con su audiencia y recopilar todos los comentarios de las partes interesadas sobre su enfoque.
También: Google tenía razón en preocuparse: OpenAI supuestamente quiere entrar en el mercado de las búsquedas
El Formulario de comentarios sobre especificaciones del modelo está abierto hasta el 22 de mayo. Se anima a todas las partes interesadas a completar el formulario, independientemente de su experiencia técnica.
Este esfuerzo encaja en los esfuerzos continuos de OpenAI para profundizar la confianza con sus partes interesadas con respecto a sus modelos. Sólo esta semana, OpenAI lanzado una nueva herramienta que puede detectar sus propias imágenes de IA generadas por DALL-E 3.