Ciberética más allá de la IA
A mediados de la década de los sesenta el siglo XX, el Instituto de Filosofía para la Inteligencia Artificial de la Universidad de Notre Dame, en Estados Unidos, recogió un conjunto de ensayos sobre la articulación de la cibernética, inteligencia artificial y lo humano. En el libro titulado Filosofía y Cibernética (1971) se estudia la construcción de la máquina computacional, cuya finalidad principal es hacer cosas que en el hombre se consideraba como comportamiento inteligente.
Los filósofos Frederick J. Crosson y Kenneth M. Sayre, estudiosos de la cibernética y la IA, se encargaron de la recopilación de esos textos, en los que se abordó desde un enfoque disciplinar, interdisciplinar y multidisciplinar, todo lo relacionado a la cibernética, en tanto que estudia los sistemas de control y comunicación en seres vivos y las máquinas y la ética implicada con la IA y el comportamiento humano. Crosson y Sayre, para esa época decían lo siguiente:
“Sin duda alguna, el más significativo desarrollo tecnológico durante este último medio siglo, ha sido la construcción de computadoras de finalidades generales, capaces de hacer cosas que en el hombre se considerarían como comportamiento inteligente. Dado que estas máquinas, no obstante, los complicadas que sean, son artefactos, se ha llegado a conocer esa capacidad como inteligencia artificial” (1971, p.9).
En este texto de los filósofos de la cibernética e inteligencia artificial, se deja entrever, todos los abordajes sobre la naturaleza de la inteligencia y los vínculos con la mente-cuerpo, así como la relación entre lenguaje y pensamiento, lógica y computación, la ética y lo cibernético e IA.
Hace más de medio siglo, afirmaron: “Entre los filósofos instruidos en estas materias existe actualmente un consenso casi general en el sentido de que las posibilidades de los mecanismos artificialmente inteligentes obligarán a algunos cambios básicos en nuestro concepto de comportamiento inteligente del ser humano” (Crosson y Sayre, ibid.9).
Los avances tecnocientíficos y cibernéticos en ese tiempo no lograban trascender la “discusiones filosóficas sobre inteligencia artificial, la cual se hacían “cada vez más numerosas durante los años recientes” (dígase década del 60 siglo XX, A.M), en un plano “demasiado especulativas y con una estrecha familiaridad con las computadoras, y técnicamente no realistas” (ibid.,10).
Sin embargo, en esta tercera década del siglo XXI, la IA ha logrado acelerar los cambios de los sujetos cibernéticos en el cibermundo; los cambios seguirán por la IA débil o corta, no en cuanto a superar el ser humano, con relación a tener pulsiones de vida y de muerte (Freud).
El científico de sistemas computacionales de la Universidad de Notre Dame, James Massey, quien también formaba parte del Instituto de Filosofía para la Inteligencia Artificial, dijo en el año 1965 que el programa ‘Eliza’, inventado por el ingeniero de sistemas Weizenbaum, tenía un potencial existente que los críticos no percibieron. Weizenbaum, además de ser un científico con una profunda visión filosófica y ética, era un crítico de la razón computacional. “El Eliza” se encontraba en acción en el Instituto Tecnológico de Massachusetts y “simulaba la respuesta de un psiquiatra en el tipo de conversación que empleaba en el análisis psicológico” (Massey, 1971, p.52). Estaba diseñado de acuerdo con el enfoque del psicólogo Carl Rogers y era creíble para las personas que ignoraban que se trataba de una máquina. Lo más sorprendente de todo es que no había forma de convencer a las personas de que Eliza no era humana.
No obstante, ya para la época se manejaba la incertidumbre y el peligro de que esto llegara a suceder. Ante este temor, el referido científico llegó a decir que las computadoras y programas de su época, veinte años después parecerían primitivas; esto sería para el 1985, de acuerdo con mi cálculo.
La visión de Massey en varios aspectos sobre IA y la inteligencia humana articuladas con los sistemas computacionales, guardan relación con lo que hoy forma parte de la interacción de los sujetos cibernéticos con los diversos dispositivos (cibercosas) en el ciberespacio y en parte de la construcción del mundo cibernético: “Si las máquinas pueden influir sobre nuestros pensamientos, entonces de una manera certísima puede decirse que influyen sobre nuestras acciones. Muchas de nuestras actividades brotan de la información que nos llega de algunas máquinas (…), una computadora puede aconsejarnos sobre el mejor camino para una ruta rápida propuesta. Es obvio, pero igualmente cierto, que podemos también influir sobre las acciones de las máquinas. Que no podemos hacerlo completamente, pronto quedará en evidencia” (ibid., 53).
Estos antecedentes desde la filosofía cibernética, de la IA y lo ético, son fundamentales para situarnos en el mundo cibernético de hoy, que nos cubre y nos atraviesa con su control de poder virtual, como un crucigrama: de manera horizontal y vertical.
Haciendo referencia del texto del fundador de la cibernética, Wiener, sobre el uso humano de los seres humanos, Massey, explica la relación de principios éticos con el uso de la máquina: (…)” quiero dar a entender que nunca debemos permitir que una máquina tome decisión importante que afecte a los seres humanos, excepto bajo la dirección y control de seres humanos con derecho al veto” (p.54).
En ese tiempo, la ciberética ya estaba implícita en cuanto a control y pilotaje por parte de lo que es conceptualizado como sujeto cibernético, se dejaba entrever el papel de la IA y su relación con este sujeto y la tendencia de los sistemas computacionales, del robot y el androide en cuanto a su papel de funcionar como copilotos humanos.
Es desde esta perspectiva que el filósofo ha de pensar y repensar los cimientos tecnocientíficos de la IA, y el entretejido cibernético de las estrategias de poder y control virtual envuelto en lo social, cultural, económico y político. La filosofía es construcción de vida envuelta en construcción de concepto, en la medida en que se va aprendiendo a definir, redefinir e inventar conceptos, vamos nombrando los nuevos acontecimientos de nuestro entorno.
Partiendo de lo expuesto anteriormente, defino la ciberética como campo interdisciplinario y multidisciplinario que examina las implicaciones éticas y morales de la tecnología digital, virtual y de la IA en el ámbito del cibermundo. Esta parte de unos principios y normativas éticas sobre la interacción entre humanos y sistemas máquinas, cómo estas interacciones pueden ser guiadas para garantizar el control y el manejo responsable de esta tecnología que caracteriza al mundo cibernético.
La ciberética entra en la compleja relación de los seres humanos con las máquinas que implica el estudio de la ética en lo digital, en la IA, robótica y virtual.
La ética digital como conjunto de principios y valores entra en el mantenimiento y la transparencia en el uso de las tecnologías digitales y todo lo relacionado a la privacidad y la seguridad de los datos (Merejo, 2002). En esta entra en juego la ciberseguridad, que es fundamental para la sociedad, porque implica protección y manejo de los datos y del propio sistema que los contiene. Esto evita graves consecuencias como el robo de información, el ciberespionaje, sabotaje de sistemas, la falta de seguridad, transparencia y privacidad.
La ética en lo virtual entra en los principios y valores que deben guiar el comportamiento de los sujetos cibernéticos en el ciberespacio; de manera específica, sus comportamientos en las redes sociales y de las empresas que controlan estas redes, que manejan y manipulan los datos de los sujetos que navegan por ellas.
La ética en la IA, como conjunto de principios y valores, tiene que ver con el funcionamiento, el desarrollo y el uso responsable de esta inteligencia, en donde los desarrolladores y las empresas que utilizan deben garantizar que se respeten los derechos humanos, se evite la discriminación y se promueva el bienestar y el interés público.
Por tal motivo, entra en el plano de la ciencia abierta y ciudadana, en cuanto a la educación de todos los sujetos cibernéticos para el debate público sobre el impacto y la regulación de esta.
Esto implica diferenciar la ética de la IA, que constituye un marco ético general que la rige en su conjunto, de la ética en robótica o roboética, que parte de principios y valores que deben guiar de manera responsable la fabricación, el desarrollo, el diseño y la programación del robot en el plano ético. ¿Qué derechos y deberes tienen los dispositivos artificiales: robots, copilotos virtuales y algoritmos?
La ética de la IA, como conjunto de principios y valores, se orienta no solo al desarrollo y diseño de dispositivos de IA, sino que busca dar respuesta a problemas como: ¿Cuáles términos y valores deben guiar la creación y el manejo de la IA? ¿Qué normas y principios deben cumplir los desarrolladores y los sujetos cibernéticos de la IA?
Todas estas indagaciones entran en el ámbito de la ética cibernética y plantean como punto común la seguridad y la privacidad de los datos personales e institucionales (ciberseguridad), así como algunas preguntas puntuales: ¿Debemos dejar que la vida real se pierda en el espacio virtual? ¿Dejar que la IA razone por nosotros? ¿Deberíamos otorgarles protecciones legales a los robots y androides, similares a los seres humanos? ¿Qué nuestros datos privados sigan siendo manipulados por algunas empresas forman parte del cibermundo? ¿Qué el sistema de ciberseguridad del poder cibernético diga qué es lo ético y no ético en el mundo cibernético, sin tomar en consideración a sus ciudadanos? ¿Qué el ciberespionaje siga siendo una carta ruta abierta de esos poderes?
Estas preguntas son difíciles y deben ser abordadas de manera reflexiva y cuidadosa, y no como parte de una disciplina de saber tecnológico particular, sino de todos los entramados de la tecnociencia, el pensamiento y ciencia de la complejidad que caracterizan el cibermundo.