Los Puentes de Confianza

Filósofos, científicos de todos los campos, hombres y mujeres de negocios nos estamos mirando de reojo. Los cambios que está imprimiendo la aceleración tecnológica en la era de la inteligencia artificial (IA) parecieran estar rompiendo los puentes de confianza. ¿Nos mueve a todos lo mismo? ¿La posibilidad de lograr resultados en investigaciones claves en favor del bien común? ¿La concentración de la riqueza? ¿El impacto ambiental? ¿El impacto en el mercado laboral? ¿O sólo la posibilidad de volver a los 80 en una foto manipulada?

¿Cómo era el mundo en los 80? Cada década tuvo su enigma pero creo que por entonces creíamos que descifrarlo estaba en nuestras manos. Era descifrar, adaptarse y seguir. En la actualidad el desafío es imaginar qué posibilidades se abren para nuestro campo de acción, qué podemos hacer distinto, qué podemos hacer mejor en beneficio de todos quienes se vinculan con nuestras empresas. Pero… pareciera que no todo lo que reluce es oro y comenzamos a pensar que todo va demasiado rápido, o sin contexto o, lo más temido: que salga del control incluso de quienes están en la frontera del conocimiento. Se instalan entonces condiciones para desconfiar.

Yuval Harari dice que la sociedad humana se basa en la confianza, y la confianza se basa en información y en cómo la información se comunica. Un cambio de la magnitud de la IA desestabiliza la confianza entre las personas. Por eso también dice que para sobrevivir y sacar lo mejor de esta época tenemos que confiar más en los vínculos entre las personas que en la IA. ¿Simple, no?

O no tanto… En mayo de este año, uno de los fundadores de Anthropic, Chris Olah, reconoció en el Vaticano que los laboratorios de IA operan dentro de un set de incentivos y restricciones que pueden chocar con hacer lo correcto y que precisamente por eso “necesitamos voces morales que los incentivos no puedan torcer”. Dos meses después nos enterábamos en una entrevista realizada por Jordi Colomé en el El País que la teóloga y filósofa Carmody Grey, había rechazado la invitación que le hacía la compañía a sumarse a sus equipos porque era “a puerta cerrada, en su terreno, y en sus términos” y que si bien “tenían una curiosidad filosófica sincera (…) hay un interés comercial tan evidente en usar la filosofía para vender el producto que es inevitable que su manera de acercarse a las humanidades acabe siendo instrumental. (…) Tienen una maquinaria de comunicación muy sofisticada, saben cómo montar un relato de seriedad intelectual y moral”.

En épocas de más preguntas que respuestas, no intentaré, al menos hoy, sacar conclusiones. Solo una: la ética no se sostiene sola. León XIV lo escribió en mayo, en la misma encíclica que Olah fue a escuchar al Vaticano, en una frase que debería incomodar a quienes nos sentamos en un directorio: "No basta con invocar la ética en abstracto; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad". Lo que está en juego no es de unos pocos, es de todos, y por eso nos toca a todos: al que desarrolla, al que legisla, al que invierte, al que decide en una empresa, al que usa. La confianza se construye así, con reglas públicas y verificables, con alguien que responda cuando algo sale mal, con preguntas incómodas hechas a tiempo. Estar a la altura del salto cualitativo que la IA hace posible es exactamente eso, y es trabajo nuestro e indelegable.

FAQs de ética, confianza y responsabilidad en inteligencia artificial

1. ¿Qué es la ética de la inteligencia artificial?

La ética de la IA analiza cómo deben desarrollarse y utilizarse estos sistemas para proteger derechos, promover la transparencia y establecer responsabilidades claras sobre sus impactos.

2. ¿Por qué la inteligencia artificial puede afectar la confianza?

La IA puede modificar cómo se produce, distribuye e interpreta la información. Cuando los sistemas son opacos o no está claro quién responde por sus decisiones, puede aumentar la desconfianza entre personas, empresas e instituciones.

3. ¿Qué significa una inteligencia artificial responsable?

Implica desarrollar y utilizar sistemas de IA con criterios de transparencia, supervisión, seguridad, protección de derechos y mecanismos claros de rendición de cuentas.

4. ¿Quién es responsable por las decisiones tomadas con inteligencia artificial?

La responsabilidad puede involucrar a desarrolladores, empresas, usuarios, reguladores y otras organizaciones que participan en el diseño, implementación o uso de estos sistemas.

5. ¿Por qué es importante la regulación de la inteligencia artificial?

La regulación puede establecer límites, responsabilidades y mecanismos de supervisión para reducir riesgos y garantizar que el desarrollo tecnológico respete derechos y objetivos de interés público.

6. ¿Qué papel tienen las empresas en la construcción de confianza alrededor de la IA?

Las empresas pueden contribuir mediante políticas claras, transparencia sobre el uso de IA, supervisión humana, mecanismos para corregir errores y criterios definidos de responsabilidad.