Por Juan Pablo Torres, PhD. Vicedecano y Profesor de Estrategia, Escuela de Negocios UAI
La insoportable levedad del ser es el título de una novela del escritor checo Milan Kundera que trata de un hombre llamado Tomás con dilemas existenciales en torno a confiar en una pareja. Si bien la historia de este libro se desarrolla en Praga de los años 60, plantea varios dilemas asociados a la desconfianza que hoy las personas tienen con la inteligencia artificial.
El Barómetro Edelman de Confianza 2024 reveló que solo el 30 % de los encuestados acepta la inteligencia artificial (IA) a escala mundial, mientras que el 35 % la rechaza. Este instrumento reportó que los menos entusiastas con la IA se sentirían más satisfechos si la comprendieran mejor y vieran los beneficios que aporta a la sociedad y a ellos mismos.
Dilema 1. Mientras más preciso es el pronóstico, menos sabemos cómo funciona.
La obra de Kundera describe una relación entre Tomás y Teresa, que a todas luces se pronosticaba que terminaría en un fracaso, cosa que sucede, pero lo que luego es impensado es la complejidad de eventos que suceden entrelazados producto de esta relación. Uno de los factores clave que contribuyen a la desconfianza en la población es la falta de transparencia en el funcionamiento de los sistemas de IA. La mayoría de las personas no entienden cómo estos sistemas toman decisiones. La IA, especialmente en su forma más avanzada como el aprendizaje profundo, opera a través de complejas redes neuronales que son opacas incluso para sus propios creadores. Este fenómeno, conocido como "caja negra", impide que los usuarios comprendan cómo se llegan a ciertas conclusiones, lo que genera sospechas y temor.
Dilema 2. Más participación, menos privacidad.
En el libro, el protagonista Tomás, quién era médico cirujano escribe una crítica para una revista de intelectuales sobre el actuar comunista en su país, por esa razón es perseguido y obligado a dejar su puesto en el hospital de Praga. Las redes sociales y plataformas digitales ofrecen nuevos espacios participativos para expresar las opiniones sobre la calidad, usabilidad o durabilidad de un producto para que lo vean millones de potenciales consumidores. No obstante, esos mismos mecanismos de participación también recolectan una gran cantidad de datos sensibles de las personas que los utilizan. Los productos y servicios basados en IA requieren grandes cantidades de datos personales para funcionar de manera efectiva. Las personas temen que sus datos puedan ser mal utilizados o caer en manos equivocadas. Los escándalos de privacidad, como el caso de Cambridge Analytica, han exacerbado estas inquietudes, destacando los riesgos potenciales de compartir información personal con plataformas que utilizan IA.
Dilema 3. Más entrenamiento de máquinas, más sesgos humanos encontrarán.
En una situación, Teresa, la coprotagonista de la historia, se mira al espejo buscando no encontrar a su madre en su reflejo. Cada vez que una persona entrena un algoritmo para una determinada labor, traspasa consciente o inconsciente, sesgos de su toma decisión que podrían vulnerar la situación de muchas personas por temas de género, raza, orientación sexual o política. Los algoritmos de IA pueden perpetuar y amplificar prejuicios existentes en la sociedad. Por ejemplo, sistemas de reconocimiento facial han mostrado tasas de error significativamente más altas para personas afrodescendientes en comparación con individuos de piel clara. Estos sesgos pueden tener consecuencias graves, especialmente en áreas sensibles como el sistema judicial y las contrataciones laborales.
La IA se ha convertido en una parte integral de nuestra vida cotidiana, desde asistentes virtuales como Siri y Alexa hasta sistemas de recomendación en plataformas de streaming y tiendas en línea. Sin embargo, a medida que la IA se infiltra en más aspectos de nuestra existencia, también ha surgido una creciente desconfianza hacia estos productos y servicios. Abordar esta desconfianza requiere un esfuerzo concertado para mejorar la transparencia, proteger la privacidad, abordar los sesgos y educar al público sobre las capacidades y limitaciones de la IA. Solo entonces podremos aprovechar plenamente los beneficios de esta tecnología y dejaremos de ver la insoportable levedad de usar IA.
Comments