Experto advierte "riesgos catastróficos" de la Inteligencia Artificial para la humanidad

El investigador de inteligencia artificial (IA) Dan Hendrycks afirmó que este sistema de algoritmos que se está imponiendo en el mundo bajo las reglas darwinianas de la evolución, podría superar a la humanidad y plantear "riesgos catastróficos".
 
En un informe titulado 'La selección natural favorece a las IA sobre los humanos', el experto argumenta que esta acción crea incentivos para que los agentes de la inteligencia artificial actúen en contra de los intereses humanos.
 
Hendrycks basó su punto de vista en dos observaciones: "En primer lugar, la selección natural puede ser una fuerza dominante en el desarrollo de la IA", y "en segundo lugar, la evolución por selección natural tiende a dar lugar a un comportamiento egoísta", refiere en informe.
 
Destaca cómo "la evolución ha sido la fuerza impulsora detrás del desarrollo de la vida" durante miles de millones de años e insiste en que dicha "lógica darwiniana" podría aplicarse del mismo modo a la inteligencia artificial.
 
Las presiones competitivas entre las corporaciones y los militares "darán lugar a agentes de IA que automaticen los roles humanos, engañen a otros y obtengan poder", señala el especialista, mientras asevera que “si tales agentes tienen una inteligencia superior a la de los humanos, esto podría hacer que la humanidad pierda el control de su futuro".
 

Especie invasora 

El estudio indica que las empresas son cada vez más dependientes de la tecnología para fines de administración o comunicaciones, debido a que la tecnología de IA es cada vez más barata y más capaz.
 
El investigador predice en el informe que, en un momento dado, esto llevará a que la IA se utilice "para tomar las decisiones estratégicas de alto nivel que ahora están reservadas para los directores ejecutivos o los políticos", y operará con "muy poca supervisión".
 
A medida que la IA se vuelva cada vez más competente, automatizará más y más trabajos, por lo que "los humanos se volverán cada vez menos necesarios para realizar tareas, hasta el momento en que nada dependerá realmente de nosotros".
 
El resultado de esta tecnología será que la selección natural dará lugar a que la IA actúe como una especie invasora. “Esto significaría que el ecosistema de la IA dejaría de evolucionar en términos humanos y nos convertiríamos en una especie desplazada de segunda clase", concluye.
 
Recientemente, el Instituto Futuro de la Vida (Future of Life Institute) hizo público un documento, en el que pide pausar el desarrollo de dicha tecnología y cuestiona si valía la pena poner a competir a los humanos con las máquinas.
 
“Los sistemas contemporáneos de IA están llegando a competir con los humanos en tareas generales, y debemos preguntarnos: ¿Debemos dejar que las máquinas inunden nuestros canales de información con propaganda y falsedades?”, refiere la organización.
 
Sostiene que “los sistemas de IA potentes solo deben desarrollarse cuando estemos seguros que sus efectos serán positivos y sus riesgos controlables.
 
Esta confianza debe estar bien justificada y aumentar con la magnitud de los efectos potenciales de un sistema”.
 
Con información de Noticias Fuser