Una prohibición que busca frenar la soledad digital
China prohibió la semana pasada a las empresas de inteligencia artificial (IA) seguir ofreciendo funciones para la creación de parejas o familiares virtuales, una tendencia creciente en ese país que generó serias preocupaciones de carácter social y hasta político.
El riesgo de la dependencia emocional algorítmica
Dicha prohibición de crear personajes con vínculos románticos o afectivos ampara especialmente a los menores de edad en China, en un afán por luchar contra la dependencia emocional algorítmica, una realidad que nace de la capacidad que tiene la tecnología de crear personajes virtuales empáticos, diseñados específicamente para cada personalidad (incluido lo bueno, lo malo y lo oscuro), que siempre están disponibles y jamás contradicen o confrontan al usuario.
En términos sencillos, ofrecen el ‘premio’ de una relación sin el esfuerzo ni el desarrollo emocional natural que requiere la convivencia humana real, eliminando el desacuerdo, la negociación y la construcción del crecimiento mutuo. Un horror.
El paralelo con el uso de IA en la educación
Algo que de cierto modo ya habíamos advertido en el caso del aprendizaje, cuando jóvenes usan la IA para pedirle que les haga las tareas, resuelva problemas matemáticos, haga resúmenes de un libro o escriba un ensayo de una obra, lo cual atrofia (está comprobado con estudios) la capacidad de aprender, pues se salta el proceso de enfrentar un problema, entenderlo, plantear soluciones, superar dificultades, para alcanzar el resultado. Así aprendemos.
El negocio detrás de los 'humanos digitales'
Detrás de estos avatares conversacionales con IA, como pasa en esta industria dominada por monopolios, se esconde un negocio lucrativo impulsado por la epidemia de la soledad. La industria china de los ‘humanos digitales’ alcanzó en 2024 un valor de 600 millones de dólares, con un vertiginoso crecimiento anual del 85 por ciento. Cabe anotar que la medida no frena el desarrollo de la IA en áreas productivas, como los asistentes de atención al cliente o en plataformas educativas.
Un llamado a la regulación en Colombia
En esta parte del mundo no estamos lejos de vivir esta deformidad. Ya hay servicios de ‘parejas’ virtuales, asistentes emocionales con IA, que de no ser controlados a tiempo nos enfrentarán a un serio problema de salud pública. Ojalá en la legislatura que arranca en el Congreso, atiendan este y tantos temas urgentes del mundo de las TIC.