El panel científico independiente de la ONU sobre inteligencia artificial subrayó el miércoles 1 de julio la necesidad de un conjunto de evidencias globales compartidas sobre la tecnología, señalando que la ciencia y la compasión deben guiar los esfuerzos para comprender los beneficios y riesgos de la IA mientras los gobiernos evalúan cómo regular su rápido desarrollo.

Los copresidentes del panel, Yoshua Bengio y Maria Ressa, afirmaron durante una sesión informativa dirigida por el Secretario General de la ONU, António Guterres, que se necesitaba una base de conocimiento común para apoyar la formulación de políticas sobre IA basada en evidencias.

Esta base de conocimiento compartida y en evolución tiene como objetivo ayudar a los responsables políticos a convertir la ciencia en acción colectiva.

Play Video

Como señaló Guterres en su discurso de apertura en la sesión informativa sobre el informe preliminar, "Cuanto más avanza la IA sin reglas compartidas, menos influencia tendrán los gobiernos y las personas en el resultado."

El informe preliminar del panel, dijo Ressa, "es la mejor evidencia disponible, en este momento, en un campo que cambia más rápido de lo que cualquiera de nosotros puede escribir sobre él. Los datos que reportamos llegan hasta mayo — y en este campo, eso ya parece hace bastante tiempo."

Bengio, por su parte, señaló que el creciente poder de la IA "puede desbloquear grandes beneficios si actuamos con sabiduría, pero también puede conducir a muchos peligros si algunos son imprudentes o buscan abusar del poder de la IA mientras la mayoría permanece pasiva."

Bengio continuó diciendo que "las decisiones que se tomen sobre la IA hoy tendrán consecuencias duraderas para los individuos, las empresas, las instituciones e incluso la democracia en general", pero que "la ciencia y la compasión deben seguir siendo nuestra brújula, y la humanidad debe asegurarse de no dejarse desviar por los vientos comerciales o geopolíticos que pueden soplar con fuerza desde muchos lados"

Ressa añadió que, si bien un futuro con IA conlleva muchos riesgos y oportunidades, ese futuro aún no está determinado. "Lo más sorprendente que aprendí en este Panel fue esto: la parte más difícil no fueron las diferencias entre naciones. Científicos de todas las regiones — a través de todas las divisiones que puedas imaginar — analizaron la misma evidencia y llegaron al mismo lugar. La ciencia nos dio un lenguaje común que la política a menudo no puede ofrecer", explicó.

Ressa añadió: "Si cuarenta de nosotros — desconocidos en febrero — podemos mantener esa línea juntos, los gobiernos también pueden. La ventana para actuar está abierta. Este informe es el terreno común desde el que actuar."

Atención social, inversión en investigación académica

Cuando se le preguntó sobre qué podría ser necesario para aumentar la base de evidencias y que los responsables políticos puedan tomar mejores decisiones, Bengio explicó que una mayor atención social, no solo en los medios de comunicación, sino también en términos de inversión en estudios independientes sobre los impactos de la IA, podría ayudar.

Bengio dijo: "Ahora mismo, la mayor parte del dinero en IA está en manos privadas, y el interés en lo que es necesario… puede ser un objetivo diferente. Es algo que las organizaciones públicas como las universidades tienen una larga tradición de investigar."

Ressa, por su parte, esbozó tres aspectos que podrían contribuir a este esfuerzo.

El acceso independiente a la medición fue uno de los aspectos. "Ahora mismo, las personas que pueden ver cómo se comportan los sistemas en el mundo real son los desarrolladores, y todos los demás obtienen lo que ellos eligen compartir. Otorgue a los estadísticos oficiales y a los evaluadores independientes acceso que preserve la privacidad y finalmente podrá medir los efectos económicos y laborales en lugar de hacer previsiones con un orden de magnitud de diferencia", dijo.

En segundo lugar, Ressa mencionó la elaboración de informes estandarizados sobre el medio ambiente, es decir, un estándar común para informar sobre cuestiones medioambientales, como la determinación de las huellas energéticas e hídricas, en la era de la IA.

Ressa también citó el tercer aspecto, que es la capacidad o la habilidad para realizar estas mediciones científicas. Dijo Ressa: "Debe existir fuera del puñado de países donde se desarrolla la IA, o la base de evidencias seguirá tan concentrada como la tecnología."

El informe preliminar del Panel Científico Internacional Independiente sobre Inteligencia Artificial sirve como línea de base y punto de partida, y no debe considerarse la última palabra sobre los efectos de la IA. – Rappler.com