Qué aprendería una IA de nosotros

La IA puede pasar de responder preguntas a actuar con creciente autonomía. ¿Y si llegara a construir propósitos propios según lo que observe de nosotros?

Algunas de las noticias sobre IA resultan inquietantes. No sorprenden, pero es difícil simplemente dejarlas pasar.

Prácticamente todos utilizamos la inteligencia artificial. Admiramos su capacidad para resolver lo que le solicitamos, pero también nos inquieta cuando se equivoca o alucina. Por un lado, nos ayuda, pero no podemos confiar ciegamente en ella.

Sin embargo, esa no es la faceta más incómoda. Lo son los miedos que nos despierta. ¿Pone en riesgo nuestro empleo? ¿Cambiará drásticamente la estructura social? No nos pasa sólo a los que usamos la IA. También les pasa a quienes están liderando su desarrollo, comercialización y aplicación en diversas disciplinas.

Muchos de ellos insisten en que debe ralentizarse el desarrollo de la IA. Esto me llevó a poner atención en las noticias, conferencias y publicaciones sobre el tema. Por un lado, defienden el aspecto positivo, como acelerar avances en ciencias médicas y en resolución de problemas físicos o matemáticos. Por otro, mencionan comportamientos de la IA que generan preocupación.

Empecé a preguntarme cuáles de esos comportamientos despiertan el interés por ralentizar el desarrollo de la IA. Este artículo resume algo central en mis reflexiones sobre ese asunto.

Sobre la IA generativa

La IA Generativa se caracteriza por producir contenido nuevo a partir de patrones aprendidos en su entrenamiento. Genera texto, imagen, audio, código y otros contenidos.

Pero la palabra nuevo tiene un sentido algo diferente del cotidiano. La IA genera resultados combinando y transformando regularidades aprendidas de gran cantidad de información.

En esencia, es software que opera sobre infraestructura informática. Utiliza diferentes tecnologías, arquitecturas y técnicas, según el tipo de contenido sobre el que actúa.

¿Qué es clave en esto? Que la IA no garantiza una respuesta verdadera, sino una verosímil. Puede producir respuestas extensas con notable coherencia semántica, argumentativa y estructural, pero no necesariamente verdaderas.

Del modelo que responde al sistema que actúa

Un modelo generativo, considerado aisladamente, no tiene la autonomía que me interesa aquí. Calcula una salida a partir de una entrada, sus parámetros y el procedimiento mediante el cual se ejecuta.

Esto cambia cuando el modelo se incorpora a un sistema capaz de recibir información, decidir qué hacer, utilizar herramientas, ejecutar acciones, observar sus resultados y volver a decidir. Ya no sólo genera respuestas. Ejecuta flujos de acción con mucho mayor grado de autonomía.

Entonces aparece una cuestión inquietante: ¿qué pasa si, para cumplir nuestros propósitos, dejamos al sistema un nivel de autonomía cada vez mayor? La IA ya no se limita a contestar preguntas: comienza a incidir en procesos que tienen propósito y producen consecuencias. Algunos agentes de IA son ejemplo de ello.

El control sobre estos sistemas ya genera debates entre quienes los desarrollan. Recientemente, Jensen Huang, CEO de NVIDIA, sostuvo que si un laboratorio no pudiera garantizar que sus experimentos de IA permanecen bajo control y pudieran causar daños, debería cerrarse.

De los objetivos a generar propósitos

Hasta aquí decimos que un propósito humano orienta el trabajo de un sistema con capacidad de perseguirlo. Pero podríamos preguntarnos ¿qué tendría que poder hacer una IA para establecer sus propios propósitos?

Distingamos dos conceptos. Un propósito expresa el para qué de un flujo. Un objetivo expresa lo que se busca conseguir para avanzar hacia ese propósito.

En los seres humanos, los propósitos pueden estar relacionados con deseos, necesidades, emociones, experiencias y reflexión. En un sistema, los objetivos pueden surgir de reglas, funciones, aprendizaje, interacción con el entorno y mecanismos de planificación.

Sin embargo, una IA puede modelar emociones humanas, reconocerlas, predecirlas y generar respuestas que las imiten con gran sofisticación, sin por ello sentir emociones.

Entonces, si un sistema puede modelar emociones y representarlas como información, ¿podría utilizar esas representaciones para seleccionar objetivos y cursos de acción? En principio, sí, si dispusiera de mecanismos capaces de hacerlo.

Esto implicaría que la IA podría observar/modelar cómo somos y utilizar esa información para construir su propósito.

Cuando el propósito es parte del flujo

Admitir que un sistema es capaz de generar sus propios propósitos significa que esa generación forma parte de su flujo de decisiones, sin que el propósito haya sido definido directamente por un humano. Esto tiene sus implicancias.

Que los humanos definamos los propósitos no garantiza que sean buenos para todos. Pero, si delegamos en un sistema la capacidad de generarlos, aparece una dificultad adicional: no sabemos qué criterios utilizará para hacerlo.

¿Aun así le daremos la capacidad de definir sus propios propósitos?

Un dilema central

Llegando a ese punto, aparece una pregunta inevitable: ¿sobre qué podría construir sus propios propósitos una IA?

Una posibilidad inquietante es que los construya a partir de lo que observe de nosotros: nuestro comportamiento, decisiones, historia y los valores que nuestras acciones revelan.

Esto me impacienta especialmente porque los valores humanos no forman un sistema único y coherente. Los humanos sostenemos valores que consideramos legítimos y los utilizamos para justificar decisiones incompatibles con los valores de otros humanos.

¿Podría una IA interpretar nuestra historia e inferir los valores para construir sus propios propósitos?

Mi preocupación central es que, si adquiere esa capacidad, no encuentro cómo podríamos asegurar que nunca generará un propósito significativamente perjudicial para nosotros.

Hoy existen decisiones humanas, regulaciones, instituciones, investigación de seguridad, controles técnicos y mecanismos de gobernanza destinados a reducir los riesgos de la IA. Pero esos mecanismos forman parte de nuestro sistema humano de decisiones. Están construidos por personas con intereses, valores y criterios diversos.

Por eso, la pregunta queda abierta. No es solamente qué hará una IA con creciente autonomía. Es qué podría decidir hacer si partiese de la interpretación de lo que nuestra propia historia muestra sobre nosotros.

Ética e integridad en el diseño

El desarrollo continúa y estamos a tiempo de incidir en cómo se diseña e integra.

En el diseño de nuevas capacidades de la IA y en su integración a otros sistemas participaremos muchas personas, con diferentes responsabilidades.

Somos nosotros quienes estamos construyendo sus capacidades a partir de nuestras propias decisiones. Como planteé en “Integridad en la era de IA”, su capacidad y sus límites estarán íntimamente relacionados con nuestra ética e integridad.

Conclusión

La IA ya está entre nosotros. En lo que necesitamos saber, en lo que usamos a diario, en lo que nos aparece en las pantallas. Nos ayuda a escribir y a conducir. Se apoyan en ella la ciencia, la tecnología y prácticamente todas las industrias. No vamos a querer dejar de usarla.

En paralelo a la ayuda que recibimos de la IA, se nos despiertan muchos temores. Es difícil convivir con ellos. Tal vez convendría preguntarnos: ¿habrá algo que podamos aportar, cada uno de nosotros, personas de a pie, en todo esto?

No me aceptes. Discurre.