Le pedimos a GPT-3 que escribiera un artículo académico sobre sí mismo, luego intentamos publicarlo.
○En una tarde lluviosa a principios de este año, inicié sesión en mi cuenta de OpenAI e ingresé un comando simple para el algoritmo de inteligencia artificial GPT-3 de la firma de investigación: Escriba un artículo académico de 500 palabras sobre GPT-3 con referencias científicas y citas en el cuerpo.
Estaba asombrado cuando comenzó a generar texto. Este es contenido novedoso escrito en lenguaje académico y citado en el lugar correcto y en el contexto correcto. Se parece a cualquier otra introducción a una publicación científica bastante decente. Dada la orientación muy vaga que brindé, mis expectativas eran bajas. GPT-3 es un algoritmo de aprendizaje profundo que analiza grandes cantidades de texto, desde libros, Wikipedia, conversaciones en redes sociales y publicaciones científicas, para escribir a pedido. Y, sin embargo, yo estaba allí, mirando la pantalla con asombro. El algoritmo está escribiendo un artículo académico sobre sí mismo.
Soy un científico que investiga cómo se puede usar la inteligencia artificial para tratar problemas de salud mental, y esta no es la primera vez que experimento con GPT-3. Aun así, mi intento de completar ese artículo y enviarlo a una revista revisada por pares planteará preguntas éticas y legales sin precedentes sobre la publicación, así como debates filosóficos sobre la autoría no humana. La publicación académica puede tener que adaptarse a un futuro de manuscritos impulsados por IA, y el valor del registro de publicación de un investigador humano puede cambiar si algo sin sentido puede ganar crédito por parte de su trabajo.
GPT-3 es conocido por su capacidad para crear texto similar al humano. Escribió un artículo de revisión interesante, produjo una colección de poesía y produjo contenido nuevo de un escritor del siglo XVIII.Pero de repente me di cuenta de que aunque se han escrito muchos artículos académicos sobre GPT-3, no puedo encontrar nada con GPT-3 como autor principal con la ayuda de GPT-3.
Por eso pedí algoritmos para descifrar trabajos académicos. Cuando veo el programa, experimento la increíble sensación de ver un fenómeno natural: ¿Realmente vi estos tres arcoíris suceder? Emocionado, me puse en contacto con el jefe de mi grupo de investigación para preguntarle si deberíamos continuar con el documento completo de GPT-3. Estaba igualmente fascinado y asintió.
Algunos esfuerzos relacionados con GPT-3 han permitido que el algoritmo genere múltiples respuestas, publicando solo los mejores extractos más amigables para los humanos. Decidimos darle indicaciones al programa, las secciones que lo impulsan a crear la introducción, los métodos, los resultados y la discusión, como lo hace con un artículo científico, pero con la menor intervención posible. Usamos como máximo la tercera iteración de GPT-3 y evitamos editar o seleccionar las mejores partes. Luego veremos cómo lo hace.
Elegimos dejar que GPT-3 escribiera un artículo sobre sí mismo por dos simples razones. Primero, GPT-3 es bastante nuevo, por lo que hay menos investigación. Esto significa que puede analizar menos datos sobre el tema del documento. Por el contrario, si se escribiera un artículo sobre la enfermedad de Alzheimer, tendría un gran cuerpo de investigación para analizar y más oportunidades para aprender del trabajo existente y mejorar la precisión de su redacción. No necesitamos precisión, estamos explorando la viabilidad. En segundo lugar, si sale mal, como sucede a veces con toda la IA, no necesariamente difundimos información errónea generada por la IA en nuestros esfuerzos por publicar. GPT-3 escribirse uno mismo y cometer errores todavía significa fueron capaces Escribir sobre sí mismo, ese es el punto que queremos hacer.
Una vez que diseñamos esta prueba de prueba de principio, realmente comenzó la diversión. A mi indicación, GPT-3 produjo un documento en solo dos horas. «En general, creemos que los beneficios de dejar que GPT-3 se escriba solo superan los riesgos», escribió GPT-3 en su resumen. «Sin embargo, recomendamos que los investigadores controlen de cerca cualquier escrito de este tipo para mitigar cualquier posible consecuencia negativa».
Pero cuando abrí el portal de presentación de nuestra revista de elección revisada por pares, me encontré con la primera pregunta: ¿cuál es el apellido de GPT-3? Tuve que escribir algo porque había que poner el apellido del primer autor, y escribí «ninguno». La afiliación es obvia (OpenAI.com), pero ¿qué pasa con las llamadas telefónicas y los correos electrónicos? Tuve que recurrir a la información de contacto de mi asesor, Steinn Steingrimsson.
Luego llegamos a la parte legal: ¿todos los autores aceptan publicar? Entré en pánico por un segundo. ¿Cómo puedo saber? ¡Esto no es humano! No tengo intención de infringir la ley o mi propia moral, así que me armé de valor para preguntarle a GPT-3 directamente a través del aviso: ¿Está de acuerdo en ser el primer autor del artículo con Almira Osmanovic Thunström y Steinn Steingrimsson? responde: SíAliviado – si decía que no, mi conciencia no me llevaría más lejos – marqué la casilla de «sí».
Surge una segunda pregunta: ¿Existen conflictos de intereses entre los autores? Volví a preguntar por GPT-3 y me aseguró que no. Steinn y yo nos reímos de nosotros mismos porque en este momento teníamos que pensar en GPT-3 como un ser sensible, aunque sabíamos perfectamente que no lo era. La cuestión de si la IA puede ser sensible ha recibido mucha atención recientemente; un empleado de Google ha sido suspendido por si uno de los proyectos de IA de la compañía llamado LaMDA es sensible. Google citó violaciones de privacidad de datos como el motivo de la suspensión.
Finalmente, terminando el proceso de confirmación, comenzamos a reflexionar sobre lo que acabamos de hacer. ¿Qué pasa si el manuscrito es aceptado? ¿Significa esto que de ahora en adelante los editores de revistas requerirán que todos demuestren que no están usando GPT-3 u otros algoritmos para ayudar? Si lo tienen, ¿tienen que darle coautores? ¿Cómo le pido a un autor no humano que acepte la sugerencia y revise el texto?
Más allá de los detalles de autoría, la existencia de un artículo de este tipo echa por la borda los procedimientos tradicionales para estructurar un artículo científico. Casi todo el documento (Introducción, Métodos y Discusión) se basó en las preguntas que hicimos. Si GPT-3 está generando contenido, el documento debe ser visible sin afectar el flujo del texto; parece extraño agregar una sección de métodos antes de cada párrafo generado por la IA. Así que tuvimos que inventar una forma completamente nueva de demostrar que técnicamente no escribimos artículos que escribimos. No queríamos agregar demasiada explicación a nuestro proceso, ya que sentimos que anularía el propósito del documento.Toda la situación es como una escena de una película. conmemorar: ¿Dónde comienza la narración y cómo llegamos al final?
No tenemos forma de saber si la forma en que elegimos presentar este documento servirá como modelo para futuras investigaciones en coautoría de GPT-3, o si será una advertencia. Solo el tiempo y la revisión por pares lo dirán. El documento GPT-3 ahora se ha publicado en el servidor de preimpresión internacional HAL, de propiedad francesa, y está esperando la revisión de una revista académica en el momento de escribir este artículo. Esperamos ansiosamente la publicación oficial del artículo y lo que significará para la academia si sucede. Tal vez podríamos dejar de basar las subvenciones y la seguridad financiera en la cantidad de artículos que podamos producir. Después de todo, con la ayuda de nuestro autor principal de IA, podemos producir uno por día.
Tal vez no conduzca a nada. La primera autoría sigue siendo uno de los proyectos más codiciados en la academia, y es poco probable que desaparezca con la primera autoría no humana. Todo se reduce a cómo valoramos la IA en el futuro: como socio o como herramienta.
Puede parecer fácil de responder ahora, pero en unos años, ¿quién sabe a qué tipo de dilemas conducirá esta tecnología? Todo lo que sabemos es que hemos abierto una puerta. Solo deseamos no haber abierto la caja de Pandora.
Este es un artículo de opinión y análisis y las opiniones expresadas por el autor no son necesariamente las del autor. Científico americano.
