Los peligros asociados a la inteligencia artificial (IA) son ampliamente reconocidos: violaciones de la privacidad, robo de propiedad intelectual y el temido reemplazo de trabajadores son solo algunos de ellos. Sin embargo, Pilar Manchón, experta en IA de Google, señala un factor crucial que a menudo se pasa por alto: “la estupidez humana”. Durante el panel ‘El estado de la IA generativa en la empresa: Ahora decide el próximo’, celebrado en Nueva York dentro del foro organizado por EL PAÍS y la Cámara de Comercio España-Estados Unidos, Manchón afirmó que este es el riesgo más grande que se debe considerar al regular esta tecnología.

“Sabemos que nos moveremos rápido y lejos porque estamos en control. Por lo tanto, depende de nosotros dar los pasos y tomar las precauciones necesarias para utilizar la IA de manera constructiva y justa”, explicó Manchón, quien es directora de Ingeniería y Estrategia de Investigación de IA en Google. Agregó que la IA es solo una herramienta, un medio para un fin, y que somos los humanos quienes decidimos su uso, tanto para bien como para mal. “En este ámbito, somos nuestros mejores aliados, pero también nuestros peores y más peligrosos enemigos”, añadió.

Para abordar este y otros riesgos, Manchón propone la creación de un marco regulatorio común que integre las regulaciones que ya existen en Europa y Estados Unidos, entre otros. “Cada sociedad tiene interpretaciones diferentes sobre cuánto riesgo están dispuestos a asumir y el nivel de sensibilidad respecto a ciertos datos y aplicaciones. Por ello, debemos encontrar la forma de alinear los distintos marcos jurídicos en desarrollo”, comentó.

Asimismo, Domingo González, director de Innovación en TI de Nestlé para Norteamérica, destacó la importancia de encontrar un equilibrio entre riesgo y valor. “Dependiendo del riesgo, hay garantías que deben ser cumplidas”, afirmó. En Nestlé, enfatizó González, se dedica tiempo a capacitar a los empleados en el uso de herramientas de IA para maximizar el valor que pueden obtener.

“Es evidente que la IA es demasiado importante para no regularla, pero también debemos evitar la sobreregulación”, advirtió Manchón, coincidiendo con la necesidad de un equilibrio. “Debemos regular las aplicaciones de la tecnología, no la tecnología en sí, dado que esta no es intrínsecamente buena o mala; todo depende de cómo la utilizamos”, agregó.

Mariano Jabonero, Secretario General de la OEI-Organización de Estados Iberoamericanos, subrayó que la regulación de la IA también debe proteger la propiedad intelectual. “Hemos creado una cátedra específica sobre este tema ante el expolio del trabajo creativo, que está totalmente desprotegido. Debemos presionar a los gobiernos para proteger esta riqueza”, alertó.

IA para todos

En un segundo panel, se discutieron los usos potenciales de la IA en la educación, la ciencia y la cultura. Tanto Carme Artigas, copresidenta de un órgano asesor sobre IA en Naciones Unidas, como Jabonero, enfatizaron la importancia de que estas herramientas estén disponibles para todos los países, no solo para los más ricos.

“Es fundamental compensar las grandes diferencias entre el norte y el sur global. De los 100 supercomputadores en el mundo, ninguno se encuentra en el sur global”, declaró Artigas. “Estamos en una lucha geopolítica por el control de materias primas y tecnología; no queremos un nuevo tecno-colonialismo, buscamos que América Latina y África puedan crear sus propias soluciones mediante las herramientas que proporciona el norte”, concluyó, haciendo un llamado a una mayor colaboración y desarrollo equitativo en el ámbito tecnológico.