La IA necesita pragmáticos y soñadores del cielo azul
Los pensadores de IA parecen provenir de dos comunidades. Uno es lo que llamo visionarios del cielo azul, que especulan sobre las posibilidades futuras de la tecnología, invocando fantasías utópicas para generar entusiasmo. Las visiones del cielo azul son convincentes, pero a menudo se ven empañadas por visiones poco realistas y desafíos éticos que pueden y deben construirse.
Por el contrario, lo que yo llamo un pragmático de botas de barro se centra en el problema y la solución. Esperan reducir el daño que pueden causar los sistemas de inteligencia artificial ampliamente utilizados. Se centran en reparar sistemas sesgados y defectuosos, como los sistemas de reconocimiento facial que a menudo identifican erróneamente a las personas como delincuentes o violan la privacidad. Los pragmáticos quieren reducir los errores médicos fatales que la IA puede cometer y convertir los autos autónomos en autos seguros. También tienen como objetivo mejorar las decisiones basadas en IA sobre hipotecas, admisiones universitarias, contratación laboral y subvenciones de libertad condicional.
Como profesor de ciencias de la computación con una larga historia de diseño de aplicaciones innovadoras que se han implementado ampliamente, estoy seguro de que aquellos con una visión se beneficiarán de la información reflexiva de los realistas de las botas de barro. Es más probable que la combinación del trabajo de ambos campos produzca resultados beneficiosos que conduzcan al éxito de la próxima generación de tecnología.
Mientras que el pensamiento futurista de los especuladores del cielo azul inspira nuestro asombro y genera mucho dinero, el pensamiento de botas de barro nos recuerda que algunas aplicaciones de IA amenazan la privacidad, difunden información errónea y son claramente racistas, sexistas y otras cuestiones morales. Es cierto que las máquinas son parte de nuestro futuro, pero ¿servirán a todos los humanos del futuro por igual? Creo que la prudencia y la utilidad del campo de entrenamiento de barro beneficiarán a la humanidad a corto y largo plazo al garantizar la diversidad y la igualdad en el desarrollo de algoritmos que impactan cada vez más en nuestra vida cotidiana. Si los pensadores del cielo azul incorporan las preocupaciones de los realistas de las botas de barro en sus diseños, pueden crear tecnologías futuras que tengan más probabilidades de promover los valores, los derechos y la dignidad humanos.
Blue Sky Thinking comenzó en los primeros días del desarrollo de la IA. La literatura está dominada por los autores que fueron pioneros en la tecnología y anunciaron su inevitable transformación social. Generalmente se considera que los «padres» de la inteligencia artificial son Marvin Minsky y John McCarthy del MIT y Allen Newell y Herb Simon de la Universidad Carnegie Mellon. Se reunieron en conferencias, como la Conferencia de Dartmouth en 1956, que inspiró la predicción de Simon de 1965 de que «las máquinas podrán hacer cualquier cosa que los humanos puedan hacer dentro de 20 años».
Hay muchos otros colaboradores de AI, incluidos tres ganadores del Premio Turing en 2022: Geoffrey Hinton, Yoshua Bengio y Yann LeCun. Su trabajo en algoritmos de aprendizaje profundo es una contribución importante, pero su continua celebración de la importancia y la inevitabilidad de la IA incluye una cita inquietante de Hinton en 2022 que dice que «las personas deberían dejar de capacitar a los radiólogos ahora. Claramente, dentro de cinco años, el aprendizaje profundo funcionará mejor que radiólogos.” Una visión más centrada en el ser humano es que los algoritmos de aprendizaje profundo serán otra herramienta, como las mamografías y los análisis de sangre, que permitirán a los radiólogos y otros médicos realizar un diagnóstico más preciso y proporcionar un plan de tratamiento más adecuado.
Un informe de Oxford de 2022 que legitimaba el tema del desempleo generalizado por robots que reemplazaban a los humanos afirmaba que el 47% de los trabajos podrían automatizarse. El libro de 2022 del futurista Martin Ford The Rise of the Robots capturó esta idea, pintando una imagen preocupante de trabajos poco calificados y altamente calificados que se vuelven tan completamente automatizados que los gobiernos tendrán que proporcionar un ingreso básico universal ya que quedan pocos trabajos. La realidad es que la automatización bien diseñada puede aumentar la productividad, lo que reduce los precios, aumenta la demanda y beneficia a muchas personas. Estos cambios han dado lugar a un fenómeno paralelo de creación agresiva de nuevos puestos de trabajo que ha ayudado a conducir a los altos niveles de empleo actuales en los Estados Unidos y algunos otros países.
Sí, algunos autores ofrecen cuentos de advertencia y visiones diferentes, como el profesor del MIT Joseph Weizenbaum en su libro de 1976 Computer Capability and Human Reason, pero estas son excepciones.
Los pragmáticos de las botas de barro han lanzado una nueva ola de críticas reflexivas sobre la IA. Cambiaron la discusión de un optimismo salvaje a articular amenazas a la dignidad humana, la equidad y la democracia. Los artículos de opinión y el simposio de la Casa Blanca de 2022 fueron movimientos útiles, y el libro de 2022 de la matemática Cathy O’Neil, Armas de destrucción matemática, amplió su audiencia. Ella se enfoca en cómo los algoritmos de IA opacos pueden ser dañinos cuando se aplican a gran escala para decidir la libertad condicional, la hipoteca y las solicitudes de empleo. El poderoso ejemplo de O’Neal promueve el pensamiento centrado en las personas.
Otros libros, como Catching Up Technology: Abolitionist Tools for the New Jim Code de Ruha Benjamin, describen cómo se pueden cambiar los algoritmos para aumentar las oportunidades económicas y reducir los prejuicios raciales.
El libro de 2022 de la psicóloga social Shoshanna Zuboff, The Age of Surveillance Capitalism, muestra el cambio de Google de un lema inicial de «no seas malvado» a un esfuerzo calculado para «ofuscar estos procesos y sus efectos». La solución de Zuboff es exigir cambios en los modelos comerciales, la supervisión democrática y la protección de la privacidad. La académica Kate Crawford ha publicado otro análisis devastador de botas de barro en su libro Atlas of Artificial Intelligence de 2022, que se centra en el poder extractivo y destructivo de la IA en los trabajos, los entornos, las relaciones y la democracia. Completó su mensaje en una fascinante presentación ante la Academia Nacional de Ingeniería, en la que describió las acciones constructivas que los investigadores e implementadores de IA pueden tomar mientras fomentan la regulación gubernamental y los esfuerzos individuales para proteger la privacidad.
Los activistas de las botas de barro son reconocidos por sus contribuciones positivas a la investigación que brindan diseños inteligentes que benefician a las personas. En octubre de 2022, Cynthia Rudin recibió el Premio de Inteligencia Artificial para la Humanidad de $ 1 millón de la Asociación para el Avance de la Inteligencia Artificial. Su trabajo sobre formas explicables de IA es una respuesta a la vertiginosa sofisticación de los algoritmos opacos de caja negra que dificultan que las personas entiendan por qué se les niega la libertad condicional, las hipotecas o el trabajo.
Muchos pensadores de botas de tierra eran mujeres, pero los hombres también hablaron de la necesidad de una supervisión humanitaria. El pionero tecnológico Jaron Lanier también planteó preocupaciones en sus Diez argumentos para eliminar inmediatamente su cuenta de redes sociales, que identifica los peligros de las redes sociales y aconseja a los usuarios que controlen mejor su uso de las redes sociales. New Laws of Robotics, del erudito legal Frank Pasquale, explica por qué los desarrolladores de IA deberían valorar la experiencia humana, evitar una carrera armamentista tecnológica y asumir la responsabilidad de las tecnologías que crean. Sin embargo, garantizar el control humano a través del diseño centrado en el ser humano requerirá cambios importantes en las políticas nacionales, las prácticas comerciales, las agendas de investigación y los planes de estudios educativos.
Diversos trabajadores en este campamento, incluidas mujeres, personas no binarias, personas con discapacidades y personas de color, entregaron un mensaje importante para garantizar que el sueño del cielo azul se traduzca en productos y servicios alcanzables que beneficien a las personas y protejan el medio ambiente.
Este es un artículo de opinión y análisis, y las opiniones expresadas por el autor no son necesariamente las de Noticias-Hoy.
