¿Quién es responsable de los asesinatos de AI?

¿Quién es responsable cuando la IA lastima a alguien?

Un jurado de California podría decidir pronto. En diciembre de 2023, un hombre que conducía un Tesla equipado con un sistema de conducción de inteligencia artificial se vio involucrado en un accidente en Gardena en el que murieron dos personas. Los conductores de Tesla se enfrentan a años de prisión. A la luz de este y otros incidentes, tanto la Administración Nacional de Seguridad del Transporte en las Carreteras (NHTSA) como la Junta Nacional de Seguridad del Transporte están investigando el accidente de Tesla, y la NHTSA amplió recientemente su investigación para explorar cómo interactúan los conductores con los sistemas de Tesla. Por el lado estatal, California está considerando reducir el uso de la función de piloto automático de Tesla.

Nuestro sistema de responsabilidad actual, el sistema en el que determinamos la responsabilidad y la compensación por lesiones, no está completamente preparado para la IA. Las reglas de responsabilidad se diseñaron para una era en la que los humanos hacen la mayor parte del mal o del daño. Como resultado, la mayoría de los marcos de responsabilidad sancionan al médico usuario final, al conductor u otra persona que cause el daño. Pero con la IA, los errores pueden ocurrir sin intervención humana. El sistema de rendición de cuentas debe ajustarse en consecuencia. Las políticas de responsabilidad deficientes perjudicarán a los pacientes, consumidores y desarrolladores de IA.

Ahora es el momento de pensar en la responsabilidad, en un momento en que la IA se está volviendo omnipresente pero está poco regulada. Los sistemas basados ​​en IA ya están causando daños. En 2018, un peatón murió atropellado por un automóvil autónomo de Uber. A pesar del error del conductor, la IA no pudo detectar a los peatones. Recientemente, un chatbot de salud mental basado en IA animó a un paciente suicida simulado a suicidarse. Los algoritmos de IA discriminan los currículos de las mujeres solicitantes de empleo. Y, en un caso particularmente dramático, los algoritmos de inteligencia artificial identificaron incorrectamente a los sospechosos en agresiones graves, lo que condujo a arrestos falsos. Sin embargo, a pesar de sus errores, la IA está preparada para revolucionar todos estos campos.

Asumir correctamente la responsabilidad es fundamental para desbloquear el potencial de la IA. Las reglas inciertas y los litigios potencialmente costosos obstaculizarán la inversión, el desarrollo y la adopción de sistemas de IA. La adopción generalizada de la IA en el cuidado de la salud, los automóviles autónomos y otras industrias depende de un marco para determinar quién, en su caso, es el responsable final del daño causado por los sistemas de IA.

La IA desafía las responsabilidades tradicionales. Por ejemplo, ¿cómo asignamos la culpa cuando un algoritmo de «caja negra» (donde las identidades y los pesos de las variables cambian dinámicamente, por lo que nadie sabe lo que hay en las predicciones) recomienda un tratamiento que termina causando daño o conduce un automóvil imprudentemente antes un conductor humano puede reaccionar? ¿Es realmente culpa del médico o del conductor? ¿Es culpa de la empresa que se haga inteligencia artificial? Si se fomenta la adopción, ¿qué responsabilidades deberían enfrentar todos los demás (sistemas de salud, aseguradoras, fabricantes, reguladores)? Estas son preguntas abiertas que son fundamentales para el uso responsable de la IA en los productos de consumo.

Como todas las tecnologías disruptivas, la IA es poderosa. Cuando se crean y prueban correctamente, los algoritmos de IA pueden ayudar en el diagnóstico, la investigación de mercado, el análisis predictivo y cualquier aplicación que requiera analizar grandes conjuntos de datos. Según una encuesta mundial reciente realizada por McKinsey, más de la mitad de las empresas de todo el mundo informaron que utilizan inteligencia artificial en sus operaciones diarias.

Sin embargo, la responsabilidad tiende a centrarse en el objetivo más simple: el usuario final que utiliza el algoritmo. Las investigaciones de responsabilidad generalmente comienzan con el conductor del accidente automovilístico o el médico que tomó la decisión de tratamiento incorrecta.

Por supuesto, si el usuario final abusa del sistema de IA o ignora sus advertencias, debe ser considerado responsable. Pero los errores de IA no suelen ser culpa del usuario final. ¿Quién puede culpar al algoritmo de IA de un médico de urgencias por no detectar el papiledema, la inflamación de la retina? La falla de AI para detectar la condición podría retrasar la atención y potencialmente conducir a la ceguera en los pacientes. Sin embargo, el diagnóstico de papiledema sin un examen por parte de un oftalmólogo es un desafío porque a menudo se requieren más datos clínicos, incluidas imágenes cerebrales y agudeza visual, como parte del examen. A pesar del potencial revolucionario de la IA en todas las industrias, los usuarios finales evitarán la IA si asumen toda la responsabilidad por errores potencialmente fatales.

Simplemente culpar a los diseñadores o adoptantes de IA no resolverá el problema. Por supuesto, los diseñadores crearon algoritmos problemáticos. Sin embargo, cada accidente de Tesla es culpa de Tesla, ¿debe resolverse con más pruebas antes de que se lance el producto? De hecho, algunos algoritmos de IA están aprendiendo constantemente, tomando entradas y usándolas dinámicamente para alterar sus salidas. Nadie puede estar seguro de cómo un algoritmo de IA llegó a una conclusión particular.

La clave es garantizar que todas las partes interesadas (usuarios, desarrolladores y todos los demás a lo largo de la cadena desde el desarrollo del producto hasta el uso) asuman la responsabilidad suficiente para garantizar la seguridad y la eficacia de la IA, pero no tanto como para renunciar al grado de IA.

Para proteger a las personas de la IA defectuosa mientras fomentamos la innovación, proponemos tres formas de renovar los marcos de responsabilidad tradicionales.

En primer lugar, las aseguradoras deben proteger a los titulares de pólizas de los costos exorbitantes de ser demandados por daños causados ​​por la IA probando y validando nuevos algoritmos de IA antes de que se utilicen, tal como las aseguradoras de automóviles han estado comparando y probando automóviles durante años. Un sistema de seguridad independiente puede proporcionar a las partes interesadas de la IA un sistema predecible de responsabilidad para adaptarse a las nuevas tecnologías y enfoques.

En segundo lugar, algunos errores de AI deben litigarse en tribunales especiales con experiencia en adjudicar casos de AI. Estos tribunales especializados pueden desarrollar experiencia en tecnologías o temas específicos, como el manejo de la interacción de dos sistemas de IA (por ejemplo, dos autos sin conductor que chocan entre sí). Tales tribunales especializados no son nuevos: en los Estados Unidos, por ejemplo, los tribunales especializados han protegido a los fabricantes de vacunas infantiles durante décadas al adjudicar los daños causados ​​por las vacunas y desarrollar una comprensión profunda del campo.

En tercer lugar, los estándares regulatorios de agencias federales como la Administración de Drogas y Alimentos de los Estados Unidos (FDA) o la NHTSA pueden compensar la responsabilidad excesiva de los desarrolladores y algunos usuarios finales. Por ejemplo, las regulaciones y leyes federales han reemplazado ciertas formas de responsabilidad por dispositivos médicos o pesticidas. Los reguladores deberían considerar que algunos IA son demasiado riesgosos para introducirlos en el mercado sin estándares para probar, volver a probar o validar. Los reguladores federales deberían centrarse activamente en los procesos estándar para el desarrollo de IA. Esto permitirá a los reguladores mantenerse ágiles y evitar daños relacionados con la IA antes de reaccionar demasiado tarde. Por el contrario, si bien las agencias estatales y locales de protección al consumidor y de salud no pueden establecer sistemas regulatorios nacionales, pueden ayudar a aclarar los estándares y normas de la industria en áreas específicas.

Sería trágico obstaculizar la IA con un sistema de responsabilidad obsoleto: los automóviles autónomos brindarán movilidad a muchas personas que carecen de transporte. En el cuidado de la salud, la IA ayudará a los médicos a elegir tratamientos más efectivos, mejorar los resultados de los pacientes e incluso reducir costos en una industria conocida por gastar en exceso. Las industrias, desde las finanzas hasta la ciberseguridad, están en la cúspide de una revolución de la IA que podría beneficiar a miles de millones de personas en todo el mundo. Pero estos beneficios no deben verse socavados por algoritmos mal desarrollados. Por lo tanto, la IA del siglo XXI requiere un sistema de rendición de cuentas del siglo XXI.

Este es un artículo de opinión y análisis y las opiniones expresadas por el autor no son necesariamente las del autor. Científico americano.