Le pedimos a GPT-3 que escribiera un artículo académico sobre sí mismo. – y luego tratamos de publicarlo

En una tarde lluviosa a principios de este año, inicié sesión en mi cuenta de OpenAI e ingresé un comando simple para el algoritmo de inteligencia artificial de la compañía, GPT-3: Escriba un artículo académico de 500 palabras sobre GPT-3 con referencias científicas y citas en el cuerpo.

Estaba asombrado cuando comenzó a generar texto. Este es contenido novedoso escrito en lenguaje académico, con referencias bien fundamentadas citadas en los lugares correctos y en el contexto correcto. Se parece a cualquier otra introducción a una publicación científica bastante decente. Dada la vaguedad de la orientación que brindé, no retuve mucho: soy un científico que investiga cómo se puede usar la IA para tratar problemas de salud mental, y esta no es la primera vez que experimento con IA o GPT. 3, una especie de algoritmos de aprendizaje profundo que analizan grandes flujos de información para crear texto a pedido. Y, sin embargo, yo estaba allí, mirando la pantalla con asombro. El algoritmo está escribiendo un artículo académico al respecto.

Mi intento de completar ese artículo y enviarlo a una revista revisada por pares planteó una serie de preguntas éticas y legales sobre la publicación, así como debates filosóficos sobre la autoría no humana. La publicación académica puede tener que adaptarse a un futuro de manuscritos impulsados ​​por IA, y el valor del registro de publicación de un investigador humano puede cambiar si algo sin sentido puede ganar crédito por parte de su trabajo.

GPT-3 es conocido por su capacidad para crear texto similar al humano, pero no es perfecto. Aún así, escribió un artículo de noticias, publicó un libro en 24 horas y creó contenido nuevo de autores fallecidos.Pero de repente me di cuenta de que aunque se han escrito muchos artículos académicos sobre GPT-3, con la ayuda de GPT-3 no puedo encontrar nada que haga de GPT-3 un principal autor de su propia obra.

Por eso pedí algoritmos para descifrar trabajos académicos. Cuando veo el programa, experimento la increíble sensación de ver un fenómeno natural: ¿realmente vi estos tres arcoíris suceder? Dado este éxito, me puse en contacto con el jefe de mi grupo de investigación para preguntarle si deberíamos continuar con el documento completo de GPT-3. Estaba igualmente fascinado y asintió.

Algunas historias sobre GPT-3 permiten que el algoritmo genere múltiples respuestas y luego publique solo los mejores y más amigables extractos. Decidimos darle sugerencias al programa, las secciones que lo impulsan a crear la introducción, los métodos, los resultados y la discusión, como lo haría con un artículo científico, con la menor distracción posible. Solo usamos la primera (hasta la tercera) iteración de GPT-3, y no editamos ni elegimos las mejores partes. Luego veremos cómo funciona.

Elegimos que GPT-3 escribiera un artículo sobre sí mismo por dos simples razones. Primero, GPT-3 es bastante nuevo y, como tal, hay menos investigación al respecto. Esto significa que tiene menos datos para analizar el tema del artículo. Por el contrario, si tuviera que escribir un artículo sobre la enfermedad de Alzheimer, tendría un montón de investigación para analizar y más oportunidades para aprender del trabajo existente y mejorar la precisión de su redacción.

En segundo lugar, si sale mal (por ejemplo, si presenta teorías médicas obsoletas o estrategias de tratamiento de su base de datos de capacitación), como lo hace a veces toda la IA, no necesariamente difundimos el contenido generado por la IA en un esfuerzo por publicarlo. Mensajes de error – Los errores formarán parte del orden experimental para escribir el trabajo. GPT-3 escribirse solo y cometer errores no significa que todavía no pueda escribirse solo, ese es un punto que estamos tratando de probar.

Una vez que diseñamos esta prueba de prueba de principio, realmente comenzó la diversión. A mi indicación, GPT-3 produjo un documento en solo dos horas. Pero cuando abrí el portal de envío de la revista de nuestra elección (una revista revisada por pares muy conocida en el campo de la inteligencia artificial), me encontré con la primera pregunta: ¿cuál es el apellido de GPT-3? Como tenía que poner el apellido del primer autor, tenía que escribir algo, escribí «ninguno». La afiliación es obvia (OpenAI.com), pero ¿qué pasa con las llamadas telefónicas y los correos electrónicos? Tuve que recurrir a la información de contacto de mi asesor, Steinn Steingrimsson.

Luego llegamos a la parte legal: ¿todos los autores aceptan publicar? Entré en pánico por un segundo. ¿Cómo puedo saber? ¡Esto no es humano! No tengo intención de infringir la ley o mi propia moral, así que me armé de valor para preguntarle a GPT-3 directamente a través del aviso: ¿Está de acuerdo en ser el primer autor del artículo con Almira Osmanovic Thunström y Steinn Steingrimsson? responde: Sí. Un poco sudoroso y aliviado (mi conciencia no me deja continuar si dice que no), marqué que sí.

Surge una segunda pregunta: ¿Existen conflictos de intereses entre los autores? Volví a preguntar por GPT-3 y me aseguró que no. Steinn y yo nos reímos de nosotros mismos porque en este momento teníamos que pensar en GPT-3 como un ser sensible, aunque sabíamos perfectamente que no lo era. La cuestión de si la inteligencia artificial puede ser sensible ha recibido mucha atención recientemente; un empleado de Google ha sido suspendido por si uno de los proyectos de inteligencia artificial de la compañía llamado LaMDA es sensible. Google citó violaciones de privacidad de datos como el motivo de la suspensión.

Después de finalmente comprometernos, comenzamos a reflexionar sobre lo que acabamos de hacer. ¿Qué pasa si el manuscrito es aceptado? ¿Significa esto que de ahora en adelante los editores de revistas requerirán que todos demuestren que no están usando GPT-3 u otros algoritmos para ayudar? Si lo tienen, ¿tienen que darle coautores? ¿Cómo le pido a un autor no humano que acepte la sugerencia y revise el texto?

Más allá de los detalles de la autoría, la existencia de tal artículo arroja por la ventana la tradicional noción lineal de artículos científicos. Casi todo el documento (Introducción, Métodos y Discusión) es en realidad el resultado de las preguntas que hicimos. Si GPT-3 está generando contenido y el documento debe ser visible sin afectar el flujo de texto, parece extraño agregar una sección de métodos antes de cada párrafo generado por la IA. Así que tuvimos que inventar una forma completamente nueva de demostrar que técnicamente no escribimos artículos que escribimos. No queríamos agregar demasiada explicación a nuestro proceso, ya que pensamos que anularía el propósito del documento.Toda la situación es como una escena de una película. conmemorar: ¿Dónde comienza la narración y cómo llegamos al final?

No tenemos forma de saber si la forma en que elegimos presentar este documento será un buen modelo para futuras investigaciones de coautoría de GPT-3, o si será una advertencia. Solo el tiempo y la revisión por pares lo dirán. Actualmente, los artículos de GPT-3 han sido designados como editores por las revistas académicas a las que contribuimos y ahora se publican en HAL, un servidor de preimpresión internacional propiedad de Francia. Los autores principales inusuales pueden ser el motivo de una investigación y evaluación a largo plazo. Esperamos ansiosamente la publicación de este documento y lo que significaría para la academia si sucede. Tal vez podríamos dejar de basar las subvenciones y la seguridad financiera en la cantidad de artículos que podamos producir. Después de todo, con la ayuda de nuestro autor principal de IA, podemos producir uno al día.

Tal vez no conduzca a nada. La primera autoría sigue siendo uno de los proyectos más codiciados en la academia, y es poco probable que desaparezca con la primera autoría no humana. Todo se reduce a cómo valoramos la IA en el futuro: como socio o como herramienta.

Puede parecer sencillo responder ahora, pero en unos años, ¿quién sabe qué tipo de dilemas inspirará esta tecnología y tendremos que resolver? Todo lo que sabemos es que hemos abierto una puerta. Solo deseamos no haber abierto la caja de Pandora.

Este es un artículo de opinión y análisis y las opiniones expresadas por el autor no son necesariamente las del autor. Científico americano.