Inteligencia artificial bajo la lupa: ONU y expertos alertan sobre amenazas a los derechos humanos y la democracia
El desarrollo acelerado de la inteligencia artificial (IA) plantea riesgos para los derechos humanos, desde la privacidad y la salud hasta la seguridad y el acceso a servicios esenciales, advirtió el alto comisionado de la ONU para los Derechos Humanos, Volker Türk.
En un comunicado, Türk señaló que la carrera por desarrollar sistemas de IA cada vez más potentes puede incrementar los riesgos asociados con esta tecnología.
“Todos los derechos humanos están en riesgo, incluidos los derechos a la vida, la alimentación, la privacidad, la salud y la seguridad”, afirmó el funcionario.
Una de sus principales preocupaciones se relacionó con la llamada IA agéntica, capaz de ejecutar tareas y tomar decisiones con un grado mayor de autonomía que los sistemas convencionales.
Según Türk, fallos en estos sistemas podrían afectar servicios esenciales, comunicaciones, infraestructuras críticas e instituciones democráticas.
El alto comisionado también advirtió que poblaciones enteras podrían perder temporalmente el acceso a servicios como agua, calefacción o sistemas financieros ante determinadas fallas.
A estos riesgos sumó el uso de la IA en conflictos armados. Türk sostuvo que esta tecnología ya está acelerando el ritmo de las guerras y ampliando su alcance.
También señaló que puede debilitar las salvaguardas existentes frente al uso de armas de destrucción masiva.
Empresarios de IA también piden reducir el ritmo
Las advertencias de Türk coincidieron con llamados de algunos de los principales dirigentes de la industria tecnológica para desarrollar sistemas avanzados con mayores medidas de seguridad.
Dario Amodei, director ejecutivo de Anthropic; Sam Altman, director ejecutivo de OpenAI, y Elon Musk expresaron preocupaciones sobre los riesgos asociados con sistemas de IA cada vez más capaces.
El investigador Jacob Coxon también generó atención después de abandonar Anthropic. En una publicación en X expresó su temor de que las empresas de IA estuvieran asumiendo riesgos relacionados con la seguridad de las personas.
Coxon afirmó que un desarrollo descontrolado podría provocar consecuencias extremas durante esta década. Sin embargo, esas afirmaciones no estuvieron acompañadas en el material citado por pruebas que permitieran establecer ese escenario como un hecho.
Evan Hubinger, investigador de Anthropic, respaldó públicamente parte de esas preocupaciones y estimó una probabilidad de más de 10% de que la IA provoque la extinción humana durante la próxima década.
El investigador Gary Marcus pidió distinguir entre los riesgos que pueden documentarse y las predicciones que todavía pertenecen al terreno de la especulación.
Marcus señaló que Coxon podía aportar información sobre lo que observó dentro de la industria, pero consideró necesario matizar otras afirmaciones sobre posibles escenarios futuros.
La discusión también recibió críticas de David Sacks, exresponsable de IA y criptomonedas de la administración estadounidense, quien cuestionó las razones empresariales detrás de algunos llamados a reducir el ritmo de desarrollo.
Sacks planteó que las empresas líderes también enfrentan riesgos legales y comerciales si sus productos permiten ataques cibernéticos o presentan comportamientos impredecibles.
La ONU pide gobernar la IA con derechos humanos
Para Türk, la respuesta a estos riesgos requiere que gobiernos y empresas participen en mecanismos internacionales de supervisión.
El alto comisionado pidió utilizar foros multilaterales para establecer reglas sobre inteligencia artificial basadas en el derecho internacional y los derechos humanos.
“Ningún país puede gobernar esta tecnología por sí solo”, sostuvo Türk. También afirmó que ninguna empresa debería decidir individualmente qué riesgos puede aceptar la sociedad.
Su planteamiento incluyó una advertencia sobre la posibilidad de que las personas tengan que renunciar a derechos fundamentales para acceder a determinados beneficios tecnológicos.
La preocupación por el impacto de la IA también llegó a espacios académicos y educativos en México.
Durante la tercera sesión especial de Diálogos por la Esperanza, programa producido por la Dimensión de Educación y Cultura de la Conferencia del Episcopado Mexicano, distintos especialistas analizaron los efectos sociales de la transformación tecnológica.
El encuentro tuvo como eje el cuidado de la persona frente a los cambios asociados con la digitalización, la inteligencia artificial y la robótica.
Educación, criterio y dignidad ante la IA
La hermana Arcelia Hernández Elizondo, oficial del Dicasterio para la Doctrina de la Fe, habló sobre una cultura marcada por la inmediatez y la sobreestimulación.
Según explicó, la encíclica analizada durante el encuentro plantea que esa dinámica puede afectar la búsqueda de la verdad y la capacidad de formular preguntas.
Hernández propuso una “higiene de la atención” basada en el silencio, el estudio reflexivo y la lectura ponderada.
El académico Leonardo Curzio Gutiérrez, de la UNAM, advirtió sobre los efectos de la concentración del poder económico, político y tecnológico.
El exsecretario de Educación Pública Reyes Tamez Guerra sostuvo que “toda tecnología refleja los valores de quienes la diseñan, la financian, la regulan y la utilizan”.
Desde la educación, Enna Verónica Lara Gamboa, directora de Vinculación de la Universidad Autónoma de Campeche, señaló que la IA generativa representa un reto para el criterio, la razón y la creatividad.
El rector emérito de la Pontificia Universidad Católica del Perú, Carlos Garatea Grau, abordó otro aspecto: el lenguaje.
El filólogo advirtió que los sistemas digitales y la IA pueden comenzar a influir en la manera en que las personas interpretan el mundo y se perciben a sí mismas.
Francisco Ramírez Yáñez, rector de la UNIVA y presidente de AMIESIC, cuestionó la idea de que la tecnología sea neutral.
“El algoritmo está programado por personas con sesgos culturales, intereses económicos, objetivos de control o de ganancia”, afirmó.
Eduardo González Di Pierro, investigador del Instituto de Investigaciones Filosóficas de la UMSNH, planteó la necesidad de un “sano realismo” frente a la tecnología.
El filósofo señaló que el miedo y la euforia pueden modificar la percepción de la realidad y propuso mantener abierta la posibilidad de construir respuestas ante los cambios tecnológicos.
Proteger lo humano también implica discernir
Los participantes del encuentro también analizaron la relación entre IA, información y democracia.
Tamez Guerra advirtió que la capacidad de un sistema para producir argumentos convincentes no significa que esos argumentos sean verdaderos.
Por ello, llamó a mantener la humildad intelectual y contrastar las afirmaciones con evidencia.
Garatea señaló que la velocidad con la que la IA ofrece respuestas puede modificar la relación de las personas con la información.
Curzio, por su parte, sostuvo que las redes sociales y los algoritmos pueden afectar la circulación de información y la elección de gobernantes.
Desde una perspectiva filosófica, González Di Pierro destacó tres criterios de discernimiento presentes en el numeral 199 de la encíclica: responsabilidad personal, tiempo del juicio moral y protección de los civiles.
El sacerdote Carlos Sandoval Rangel, secretario de la Dimensión para la Cultura y la Educación de la Conferencia del Episcopado Mexicano, planteó que las decisiones sobre ciencia, tecnología, economía y política deben considerar la dignidad humana.
“Cuando tenemos bien claro esto, todo lo que venga en ciencia, tecnología, economía, política debe sumar al ejercicio digno de lo que somos”, afirmó.
Las advertencias sobre la IA planteadas desde la ONU, la industria tecnológica y el ámbito académico coinciden en señalar distintos riesgos, aunque no todas las predicciones tienen el mismo nivel de evidencia.
Mientras Türk pidió establecer mecanismos internacionales de gobernanza, los participantes de Diálogos por la Esperanza plantearon fortalecer la educación, el criterio, la responsabilidad y la protección de la dignidad humana ante los cambios tecnológicos.
UE plantea limitar acceso independiente de menores a redes e IA
“Sobreproteger a los hijos puede limitar su autonomía”
