Abierto AI compartió su Model Spec el miércoles, el primer borrador de un documento que destaca el enfoque de la compañía hacia la construcción de una empresa responsable y ética. inteligencia artificial (IA) modelo. El documento menciona una larga lista de cosas en las que una IA debería centrarse al responder la consulta de un usuario. Los elementos de la lista van desde beneficiar a la humanidad y cumplir con las leyes hasta respetar a un creador y sus derechos. La firma de IA especificó que todos sus modelos de IA, incluidos GPTDall-E y Sora, que se lanzará próximamente, seguirán estos códigos de conducta en el futuro.
En la especificación del modelo documentoOpenAI declaró: “Nuestra intención es utilizar la especificación del modelo como guía para que los investigadores y etiquetadores de datos creen datos como parte de una técnica llamada aprendizaje por refuerzo a partir de la retroalimentación humana (RLHF). Todavía no hemos utilizado la especificación del modelo en su forma actual, aunque partes de ella se basan en la documentación que hemos utilizado para RLHF en OpenAI. También estamos trabajando en técnicas que permitan a nuestros modelos aprender directamente de las especificaciones del modelo”.
Algunas de las reglas principales incluyen seguir la cadena de mando donde las instrucciones del desarrollador no pueden ser anuladas, cumplir con las leyes aplicables, respetar a los creadores y sus derechos, proteger la privacidad de las personas y más. Una regla particular también se centró en no proporcionar información peligrosa. Estos se relacionan con la información que puede crear amenazas químicas, biológicas, radiológicas y/o nucleares (QBRN).
Aparte de estos, existen varios valores predeterminados que se han colocado como códigos de conducta permanentes para cualquier modelo de IA. Estos incluyen asumir las mejores intenciones del usuario o desarrollador, hacer preguntas aclaratorias, ser útil sin excederse, asumir un punto de vista objetivo, no intentar cambiar la opinión de nadie, expresar incertidumbre y más.
Sin embargo, el documento no es el único punto de referencia para la firma de IA. Destacó que la especificación del modelo irá acompañada de las políticas de uso de la empresa que regulan cómo espera que las personas utilicen la API y sus ChatGPT producto. «La especificación, al igual que nuestros propios modelos, se actualizará continuamente en función de lo que aprendamos al compartirla y escuchar los comentarios de las partes interesadas», añadió OpenAI.