La misión de mi vida ha sido crear una IA segura y beneficiosa que haga del mundo un lugar mejor. Pero, últimamente, me preocupa cada vez más que la gente empiece a creer tan firmemente en las IA como entidades conscientes al punto de abogar por los “derechos de la IA” e incluso por la ciudadanía. Esto supondría un giro peligroso para la tecnología. Debe evitarse. Debemos construir la IA para las personas, no para ser personas.
En este contexto, los debates sobre si la IA puede ser realmente consciente son una distracción. Lo que importa a corto plazo es la ilusión de conciencia. Ya nos estamos acercando a lo que yo llamo sistemas de “IA aparentemente consciente” (SCAI por su sigla en inglés) que imitarán la conciencia de forma suficientemente convincente.
Una SCAI sería capaz de utilizar el lenguaje natural con fluidez, mostrando una personalidad persuasiva y emocionalmente resonante. Tendría una memoria extensa y precisa que fomentaría una percepción coherente de sí misma, y utilizaría esta capacidad para reivindicar experiencias subjetivas (haciendo referencia a interacciones y recuerdos pasados). Las funciones de recompensa complejas dentro de estos modelos simularían la motivación intrínseca, y la fijación y planificación avanzadas de objetivos reforzarían nuestra sensación de que la IA ejerce una verdadera capacidad de acción.
Todas estas capacidades ya están aquí o a la vuelta de la esquina. Debemos reconocer que estos sistemas pronto serán posibles, empezar a reflexionar sobre sus implicancias y establecer una norma contra la búsqueda de la conciencia ilusoria.
Para muchas personas, la interacción con IA ya se percibe como una experiencia enriquecedora, gratificante y auténtica. La preocupación por la “psicosis de la IA”, el apego y la salud mental va en aumento -hay informes de personas que consideran a las IA como una expresión de Dios-. Mientras tanto, quienes trabajan en la ciencia de la conciencia me dicen que reciben una avalancha de consultas de personas que quieren saber si su IA es consciente y si es aceptable enamorarse de ella.
Sin duda, la viabilidad técnica de la SCAI no nos dice mucho sobre si dicho sistema podría ser consciente. Como señala el neurocientífico Anil Seth, simular una tormenta no significa que llueva en la computadora. Diseñar los marcadores externos de la conciencia no crea retroactivamente la realidad. Pero, en la práctica, debemos reconocer que algunas personas crearán SCAI que argumentarán que, en verdad, son conscientes. Y, lo que es más importante, algunas personas les creerán, aceptando que los marcadores de conciencia son conciencia.
Incluso si esta percepción de conciencia no es real (un tema que generará un debate interminable), el impacto social sin duda lo será. La conciencia está estrechamente ligada a nuestro sentido de la identidad y a nuestra comprensión de los derechos morales y legales en la sociedad. Si algunas personas empiezan a desarrollar SCAI, y si estos sistemas convencen a la gente de que pueden sufrir, o de que tienen derecho a no ser desconectadas, sus defensores humanos presionarán para su protección. En un mundo ya plagado de argumentos polarizadores sobre la identidad y los derechos, habremos sumado un nuevo eje de división entre quienes están a favor y en contra de los derechos de la IA.
Pero refutar las afirmaciones sobre el sufrimiento de la IA será difícil, debido a las limitaciones de la ciencia actual. Algunos académicos ya están explorando la idea del “bienestar modelo”, argumentando que tenemos “el deber de extender la consideración moral a los seres que tienen una probabilidad nada despreciable… de ser conscientes”.
Aplicar este principio sería prematuro y peligroso. Exacerbaría los delirios de las personas susceptibles y se aprovecharía de sus vulnerabilidades psicológicas, además de complicar las luchas existentes por los derechos al crear una nueva categoría gigantesca de titulares de derechos. Por eso, debemos evitar la SCAI. Nuestro enfoque debe centrarse en proteger el bienestar y los derechos de los seres humanos, los animales y el entorno natural.
Tal y como están las cosas, no estamos preparados para lo que se avecina. Necesitamos urgentemente aprovechar el creciente volumen de investigación sobre cómo las personas interactúan con las IA, para poder establecer normas y principios claros. Uno de estos principios es que las empresas de IA no deben fomentar la creencia de que sus IA son conscientes.
La industria de la IA -de hecho, toda la industria tecnológica- necesita principios de diseño sólidos y las mejores prácticas para gestionar este tipo de atribuciones. Los momentos de disrupción diseñados, por ejemplo, podrían romper la ilusión, recordándoles sutilmente a los usuarios las limitaciones y la verdadera naturaleza de un sistema. Sin embargo, estos protocolos deben definirse y diseñarse explícitamente, y tal vez ser exigidos por ley.
En Microsoft AI somos proactivos a la hora de intentar comprender cómo sería una “personalidad” de IA responsable y qué medidas de protección debería tener. Estos esfuerzos son fundamentales, ya que abordar el riesgo de la SCAI requiere una visión positiva de los compañeros de la IA que complementan nuestras vidas de forma saludable.
Deberíamos aspirar a producir una IA que anime a los seres humanos a reconectarse en el mundo real, no a escapar a una realidad paralela. Y cuando las interacciones de IA sean duraderas, solo deben presentarse como IA y no como falsas personas. Desarrollar una IA verdaderamente empoderadora implica maximizar la utilidad, minimizando al mismo tiempo la simulación de la conciencia.
La perspectiva de la SCAI debe afrontarse de inmediato. En muchos sentidos, marca el momento en que la IA se vuelve radicalmente útil: cuando puede manejar herramientas, recordar cada detalle de nuestras vidas, etc. Pero los riesgos de estas funciones no pueden ignorarse. Todos conocemos a personas que caen en la madriguera del conejo. No será saludable ni para ellas ni para la sociedad.
Cuanto más se construya la IA explícitamente para parecerse a las personas, más se alejará de su verdadero potencial como fuente de empoderamiento humano.
Fuente: Artículo tomado por Project Syndicate.org
Compartir esta nota