La Mesa

La Mesa TIC: ¿Es posible frenar los desarrollos en inteligencia artificial? ¿Cómo mitigar los efectos negativos de esta tecnología?

Por

Facebook Twitter Whatsapp Telegram

Presenta: INCO para su producto Atlassian Jira software.

Auspician: Bantotal, Netgate, Quanam, Sicfe y Quantik

¿Debemos desarrollar mentes no humanas que podrían eventualmente superarnos en número y en inteligencia, dejarnos obsoletos y reemplazarnos? ¿Deberíamos arriesgarnos a perder el control de nuestra civilización?

Estas preguntas, tan inquietantes, aparecen en una carta firmada hace dos semanas por un grupo de grandes empresarios del sector tecnológico, además de expertos y líderes políticos, que piden que se ponga una pausa de seis meses en los experimentos con inteligencia artificial más potentes que el chat GPT4, porque, según sostienen, “pueden plantear profundos riesgos para la sociedad y la humanidad”.

En el texto firmado, entre otros, por el dueño de Twitter, Elon Musk, el cofundador de Apple, Steve Wozniak, y el historiador israelí Yuval Harari, se exhorta a las compañías y los gobiernos a tomar acciones para mitigar los efectos negativos de esta tecnología, ya que “nadie -ni siquiera sus creadores- puede entender, predecir o controlar de forma fiable” las “mentes digitales cada vez más poderosas” que se están desarrollando.

La preocupación de estos notables de la tecnología por la evolución de la inteligencia artificial no es la única que se ha escuchado últimamente. Unos veinte días antes, tuvo lugar aquí en Montevideo el Encuentro Latinoamericano de Inteligencia Artificial. La declaración final de ese evento coincide con varias de las inquietudes que estas personalidades expusieron en su carta, pero también incorpora más elementos a la discusión, por ejemplo el papel que debe corresponderle a esta región en el desarrollo de la inteligencia artificial.

En esta edición de La Mesa TIC, vamos a discutir sobre estos pronunciamientos, para lo cual recibimos a la doctora en computación Lorena Etcheverry, docente del Instituto de Computación de la Facultad de Ingeniería de la Universidad de la República y una de las firmantes de la declaración del Encuentro Latinoamericano de Inteligencia Artificial; el ingeniero en computación Pablo Rebufello, gerente de Tecnología e Innovación en Ingenieros Consultores Asociados (ICA), también docente del Instituto de Computación e integrante de la Mesa de Inteligencia Artificial de la Cámara Uruguaya de Tecnologías de la Información (CUTI); y el doctor en ingeniería eléctrica Federico Lecumberry, profesor de Procesamiento de Señales y Machine Learning en la Facultad de Ingeniería e investigador asociado en el Institut Pasteur Montevideo.

Las declaraciones mencionadas pusieron en agenda la gobernanza de la inteligencia artificial y los posibles efectos negativos de esa tecnología. No son inquietudes nuevas, ¿no? ¿Desde cuándo se debaten estos temas en los círculos de inteligencia artificial?

Contenido relacionado:
"Pause Giant AI Experiments: An Open Letter": la carta firmada por grandes empresarios del sector tecnológico, expertos y líderes políticos
Declaración final del Encuentro Latinoamericano de Inteligencia Artificial