Discriminación, la “raíz del mal” en la IA
ABANICO
Por Ivette Estrada
Discriminar es el principal “pecado” de la Inteligencia Artificial (IA) Generativa. Bueno, no se dice así, pero es el principio de todas las acciones poco éticas y morales de esta tecnología. Les cuento:
El software ChatGPT de OpenAI, presenta una “división algorítmica” por las disparidades en el acceso a la tecnología y la alfabetización. Es el primer gran obstáculo a la democratización de la IA. A la par, esta tecnología presenta peligrosos sesgos cognitivos. Son brechas que van más allá de la famosa brecha digital. Se trata de la algorítmica.
Esta división separa las regiones donde la IA prospera de aquellas en las que permanece en gran parte inexplorada. Esto significa que los profesionales de comunidades desatendidas enfrentan una brecha importante en el acceso a las tecnologías de banda ancha e informática que son vitales para mejorar las habilidades antes de este cambio.
Ahora, no debe olvidarse que los sesgos se transmiten de humanos a máquinas y se extienden mucho más allá de nuestra conciencia individual o colectiva.
El problema no es sencillo, porque eliminar un sesgo a menudo introduce otro. Como los sesgos cognitivos pueden tener consecuencias profundamente negativas, su amplificación no debe soslayarse.
Controlar esas divisiones implica realizar diversas acciones: prepararse para la IA debe ser una parte prioritaria en la agenda de la empresa así como la capacitación para entender cuáles son las capacidades y aplicaciones de la IA. Es una alfabetización impostergable que debe estar desde la la C Suite a todos los puestos de trabajo de la compañía.
Por supuesto, se requiere generar confianza y transparencia en la IA, establecer desafíos de innovación para los empleados y estimular la experimentación de IA en toda la empresa. También conviene involucrar a clientes, proveedores de tecnología y nuevas empresas de IA para ayudar a cocrear, validar y escalar nuevas soluciones con IA.
Muchos expertos, por otra parte, aconsejan el pensamiento de diseño centrado en el ser humano. Esto para identificar y probar ganancias rápidas utilizando IA y demostrar el valor a corto plazo mientras se buscan oportunidades más transformadoras a largo plazo. Así se obtiene aceptación en toda la organización.
Al igual que cualquier otra ola tecnológica disruptiva como Internet, será fundamental para la sociedad guiar la evolución de la IA generativa en una dirección en la que los beneficios estén disponibles para todo el espectro de innovadores y usuarios finales que desean aprovechar esta poderosa tecnología, especialmente aquellos con menos acceso en la actualidad.
