La IA y Shannon Vallor
Una visión de la IA
No puedo dejar de citar a Shannon Vallor cuando escribo algo sobre la IA y acá les dejo además un texto de su cosecha.
"Los poderosos sistemas de IA actuales ni siquiera poseen las características más elementales del espíritu humano, no comparten con los humanos lo que llamamos consciencia o sensibilidad, es decir la capacidad de sentir cosas como dolor, alegría, miedo y amor. Tampoco tienen la menor idea de su lugar y su papel en este mundo, y mucho menos la capacidad de experimentarlo. Pueden responder a las preguntas que decidimos hacerles, pintarnos bonitas imágenes, generar videos falsos y muchas otras cosas. Pero el corazón de una IA está vacío"
Yo agregaría, aún así, por un tema de rapidez, los gobiernos le dan un lugar en sus fuerzas armadas. Todos los gobiernos deberían negarse a usarla para la guerra, porque basta que uno lo haga para iniciar un carrera. Lo anterior puede sonar naif, pero si lo pensaran con cuidado es un tema de supervivencia. Hoy en día ya hay máquinas que manejadas por la IA destruyen vidas humanas.
Shannon Vallor es una destacada filósofa estadounidense especializada en la filosofía de la tecnología y la ética aplicada, con un enfoque particular en la Inteligencia Artificial (IA) y la ciencia de datos.
¿Quién es y cuál es su trayectoria?
Actualmente ocupa la cátedra Baillie Gifford de Ética de Datos e Inteligencia Artificial en el Instituto de Futuros de Edimburgo, dentro de la Universidad de Edimburgo (Escocia), donde también dirige el Centre for Technomoral Futures. Entre 2018 y 2020, se desempeñó como investigadora y especialista en ética de IA para Google, trabajando para integrar la reflexión moral directamente en la práctica técnica y la ingeniería de software. Es autora de libros sumamente influyentes en su campo, como Technology and the Virtues (2016) y The AI Mirror (2024). Conceptos clave de su pensamientoLas ideas de Vallor proporcionan un marco excelente a la hora de estructurar charlas explicativas o elaborar materiales para docentes y estudiantes sobre el impacto real de la informática y la IA en la sociedad:
Futuros Tecnomorales: Vallor argumenta que es un grave error percibir la tecnología y la moral como esferas separadas.
La tecnología no surge "afuera" de la sociedad para luego impactarla, sino que es una actividad humana y social en sí misma. Esta premisa es vital para enseñar que las herramientas tecnológicas que construimos o usamos nunca son moralmente neutras.
El Espejo de la IA (The AI Mirror): Ante la expectativa de que sistemas de Inteligencia Artificial General (AGI) con aprendizaje autónomo puedan llegar a estar disponibles en un horizonte de cinco a diez años, Vallor introduce la metáfora del espejo. Señala que los sistemas de IA actuales no son mentes independientes que piensan por sí solas, sino espejos tecnológicos que reflejan, a gran escala, nuestras propias virtudes, errores, sesgos y conocimientos históricos.
El riesgo de trabajar como máquinas: Una de sus advertencias más lúcidas indica que el mayor peligro a corto plazo no es una rebelión consciente de las máquinas, sino la degradación humana. Es decir, que el mal diseño e implementación de la tecnología termine obligando a las personas a trabajar, aprender y comportarse como si ellas mismas fueran autómatas.
Cultivar nuevas virtudes:
En lugar de reaccionar con miedo ante la innovación, Vallor propone que la humanidad debe cultivar deliberadamente hábitos y virtudes específicas para el siglo XXI (como la empatía, el cuidado y la prudencia). El objetivo es aprender a "vivir bien" con la tecnología, utilizándola para construir un futuro que realmente valga la pena habitar.
