Como buen dominicano, a propósito del mes de nuestra Patria, imagina un clásico juego de dominó, donde cada ficha colocada sobre la mesa sigue una secuencia basada en reglas claras y con una lógica predecible, a tal extremo que, los mejores estrategas son capaces de anticipar si tú no vas, si se va a trancar el juego o si de una capicúa 25 se trata, lo que nos invita a hacer un ejercicio concienzudo para seleccionar a nuestro frente en aquellos casos que corresponda en pareja. Ahora, piensa por un momento que una ficha tenga la capacidad de cambiar su número, conectando piezas antes consideradas inconexas, encontrándonos ante jugadas magistrales inesperadas y movimientos sorpresivos. Este es el terreno de juego de la IA generativa, un campo de configuraciones nunca antes vistas que desafían lo preestablecido.

Mucho se comenta que la ciencia ficción se está convirtiendo en realidad, aserción que no debería llamarnos a sorpresa, ya que si bien es cierto que no todo lo que allí se especula e imagina se materializará, atendiendo a leyes de la física y las limitaciones tecnológicas actuales, no menos cierto es que, a lo largo de la historia hemos visto múltiples ejemplos de cómo muchas ideas presentadas en esas obras han logrado la transición de la fantasía a lo tangible. Para muestra, solo tenemos que remontarnos a la novela de Julio Verne titulada De la Tierra a la Luna, caracterizada por la posibilidad de un viaje espacial más de cien años antes de que Neil Armstrong pisara la superficie lunar. Siendo así, la ciencia ficción puede predecir con cierta precisión desarrollos futuros en ciencia y tecnología, lo que nos lleva a pensar de forma crítica en el impacto de lo planteado en las entregas de este género para los años venideros.

En efecto, lo mismo sucede con la IA, tema de preferencia por excelencia en las tramas novelescas y guiones hollywoodenses sellados con un porvenir distópico. Particularmente, tuvimos contacto con la IA generativa sin saberlo, por citar algún caso, la famosa película Her, donde Theodore crea una relación romántica con su sistema operativo basado en IA, Samantha, similar a los usuarios que a la fecha se están enamorando de sus chatbots mediante aplicaciones como Replika, Eva AI, RomaticAI, entre muchas otras, ampliamente cuestionadas en privacidad y protección de datos según investigaciones de Mozilla. Lo anterior, en lugar de preocuparnos, debe ser un llamado a ocuparnos. Así lo aseveró en entrevista para El País, el presidente global de Microsoft, Brad Smith, indicando que si más de 50 películas tienen el mismo argumento, significa que se debe apostar por un freno de seguridad, dicho de otro modo, establecer el nivel de regulación que se necesite, ya que a su juicio, cuanto más poderosa se vuelve una tecnología, más fuertes tienen que ser los controles que la acompañen.

A decir verdad, la IA generativa promete aportar beneficios colosales. En palabras de Bill Gates, es el avance tecnológico más importante desde la interfaz gráfica de usuario (entornos de escritorio como los de Windows y Mac). Realmente, esta tecnología nos regala privilegios como escuchar unas palabras con la voz del cantautor Armando Manzanero y recrear parte de su esencia para el espectáculo en su honor, Desde El Cielo. También, es la principal aliada de muchas empresas, Mango cuenta con más de 20 prendas en el mercado cocreadas con su plataforma Inspire. Por supuesto, se ha convertido en la mano derecha de los pequeños emprendedores, quienes en su rol de arquitectos de sueños buscan la manera de maximizar sus recursos. Según informe realizado por The Influencer Marketing Factory, el 94.5% de los 660 influencers encuestados utiliza IAGEN, específicamente en la edición de contenidos, generación de imágenes y videos, así como en la creación de textos. Claro, nosotros no podemos faltar en la lista, como tú y como yo, ya hay millones de personas que interactúan directa o indirectamente con esta tecnología tras su democratización, cuya adopción masiva en todos los sectores es comparable a la electricidad, como declara el Dr. Andrew Ng.

No obstante, este contenido nuevo que puede ser indistinguible del contenido creado por un humano cada día es más sofisticado, solo hay que observar la presentación de los resultados preliminares de Sora , convirtiendo cualquier tipo de texto a video. Por tanto, es innegable la existencia de peligros evidentes, sintetizados en informe de Mckinsey y que compartimos a continuación:

  • Los sesgos algorítimicos, originados por los datos con los que se entrena o por los prejuicios transmitidos de los humanos que participan en este proceso de entrenamiento. Se han visto múltiples casos de este tipo desde antes de la IA generativa, recuerda que Amazon tuvo que prescindir de una inteligencia artificial de reclutamiento por discriminar a las mujeres, comportamiento aprendido con los perfiles de los solicitantes de empleo en los últimos 10 años.
  • Los datos de salida del modelo pueden generar riesgos significativos de infracción en materia de Propiedad Intelectual. El uso de material protegido sin autorización para entrenar estos modelos ha sido el principal objeto de las demandas contra las grandes tecnológicas que les han creado. Desde el 2023, hemos visto demandas colectivas protagonizadas por escritores prolíficos como George R.R. Martin (autor de la saga en la que se basa la popular Game of Thrones), pasando por la de una de las agencias de imágenes más grandes del mundo, Getty Images, hasta la actualidad, con la de The New York Times.
  • Surgen preocupaciones sobre la privacidad, si los usuarios introducen información que luego aparece en salidas del modelo. Tanto así que, el conocido Bard (actual Gemini) advierte a los usuarios en su aviso de privacidad que no compartan información confidencial en sus conversaciones o datos que no quieran que sean revisados o utilizados por Google para mejorar sus productos, servicios y tecnologías. Por su parte, OpenAI anunció la función de configuración de memoria para ChatGPT donde los usuarios pueden pedirle al chatbot que recuerde cosas o que olvide cierta información.
  • Podría utilizarse para crear y difundir contenido que desinforme como los deepfakes. Justamente, este es el riesgo que encabeza en la posición número 1 el listado establecido por el World Economic Forum en The Global Risk Report 2024.
  • Puede ser utilizada por actores maliciosos para acelerar la sofisticación y velocidad de los ciberataques. También, puede ser manipulada para proporcionar salidas maliciosas. Por ejemplo, a través de una técnica llamada inyección de indicaciones, una tercera parte proporciona al modelo nuevas instrucciones que lo engañan, a fin de que entregue una salida no prevista por el productor del modelo y el usuario final. Algo así como el famoso jailbreak, donde se desbloquean los dispositivos móviles para ampliar las funcionalidades que ofrece el sistema operativo original.
  • Depende de redes neuronales con miles de millones de parámetros, lo que desafía nuestra capacidad para explicar cómo se produce cualquier respuesta dada. Los tribunales ya han conocido casos donde se cuestiona la opacidad de los algoritmos, CIVIO sobre BOSCO es un caso emblemático.

¿Qué hacemos entonces? Detenernos no es una opción. Cada avance en la historia de la humanidad ha venido acompañado de desafíos y temores, pero siempre ha sido nuestra capacidad para superarlos y adaptarnos lo que nos ha llevado a prosperar. Hemos visto compromisos voluntarios de empresas, más de 200 se unen en Estados Unidos, en el AI Safety Institute Consortium (AISIC) tras la Orden Ejecutiva del Presidente Biden para tomar las acciones necesarias. La Unión Europea, lidera la regulación mediante su AI Act, en función del nivel de riesgo; modelo que está siendo replicado por otros países como Chile. La comunidad internacional busca impulsar iniciativas concretas y por ello la ONU crea un Consejo Consultivo sobre la inteligencia artificial. Como estas, hemos visto cientos de medidas en la misma sintonía, República Dominicana, por ejemplo, da sus primeros pasos con la Estrategia Nacional de Inteligencia Artificial con principios rectores y estándares que deben regir la innovación.

De este modo, la conclusión es que todos debemos estar en la misma página, que sea una prioridad global innovar con IA e IA GEN que es el trending topic, centrados en el ser humano, accionando estratégicamente y de forma mesurada, aprendiendo de las lecciones del pasado con Internet. No olvides que los miedos no están ahí para asustar, sino para recordarnos la importancia de avanzar con prudencia, sabiduría y responsabilidad.

Cuando las máquinas rompen las reglas: el poder transformador de la IA Generativa IA generativa Nicole Marie Suárez Uribe