El debate sobre las implicaciones de la Inteligencia Artificial General (IAG) se intensifica mientras los expertos siguen divididos sobre sus riesgos y beneficios potenciales. El periódico británico The Guardian recogió opiniones de diversos expertos.
Ian Hogarth, que preside el Grupo de Trabajo sobre Seguridad de la IA del Reino Unido, advierte de la posibilidad de una AGI “divina” capaz de un rendimiento de nivel humano o incluso superior, potencialmente fuera de nuestro control. Max Tegmark, cosmólogo y físico sueco-estadounidense, más conocido por su trabajo sobre la hipótesis del universo matemático y sus reflexiones sobre los riesgos existenciales de la inteligencia artificial (IA), se hace eco de estas preocupaciones, destacando la creencia generalizada en los círculos tecnológicos de que la AGI es inminente.
Pero hay argumentos en contra. William Dally, de NVIDIA, tacha de ficticio el temor a una AGI incontrolable, argumentando que el control humano siempre prevalecerá. Del mismo modo, organizaciones como el Distributed AI Research Institute (DAIR) critican que la industria se centre en el riesgo existencial como una táctica para distraer la atención de problemas acuciantes como la explotación laboral y la violación de los derechos de autor. Timnit Gebru, del DAIR, elogia a un senador estadounidense por llamar la atención sobre las condiciones laborales de los trabajadores de datos.
Connor Leahy, director general de Conjecture, ofrece la perspectiva única de que la amenaza de la AGI no está en su potencial para el mal, sino en su competencia. Si los humanos no pueden controlar una IA competente, se convierte en peligrosa por definición. Mientras tanto, funcionarios del gobierno del Reino Unido están expresando su preocupación por los actores deshonestos que manipulan modelos a nivel de la sub-IAG para crear amenazas como las armas biológicas. La próxima Cumbre Mundial sobre la Seguridad de la IA pretende conciliar estos puntos de vista contradictorios y llamar la atención sobre los riesgos potenciales que las máquinas podrían plantear a la humanidad.
En noviembre se realizará la Cumbre sobre Seguridad de la IA en el Reino Unido.
Ilustración: Diario TI / Discord
