*Por Eduardo Luis Aguirre |

Por Eduardo Luis Aguirre

Flavia Costa nos advierte en sus redes que acaba de publicarse un artículo crucial, escrito entre otros por entre otros Yoshua Bengio, Geoffrey Hinton, Alan Chan y Christoph Winter, que se titula «¿Y si automatizar la investigación y desarrollo de IA desencadena una explosión de inteligencia?».

El escrito da cuenta que «el progreso de la IA ya se siente extraordinariamente rápido. Pero hay motivos para creer que podría ser mucho más rápido. […] Si los sistemas de IA comienzan a realizar la mayor parte de la investigación en IA, esto podría crear un bucle de retroalimentación: una mejor IA ayuda a producir una mejor IA, lo que acelera el desarrollo de una IA aún mejor. Años de progreso en IA podrían comprimirse en meses o menos. […] Una explosión de inteligencia podría acelerar avances extraordinarios en la ciencia y la industria. Pero también podría generar capacidades peligrosas y una gran disrupción social más rápido de lo que las salvaguardas e instituciones pueden adaptarse. Los humanos podrían tener poca supervisión sobre la investigación y desarrollo de IA cada vez más automatizados, mientras que las modestas capacidades podrían convertirse rápidamente en decisivas«.

El texto abunda en otras consideraciones, pero termina con una reflexión que hemos escuchado y leído de la autora, y que nos parece de trascendental importancia: “además de ese problema gigante de política tecnológica, tenemos también, eso parece, un problema social y político de enorme envergadura. La IA es, obviamente, una cuestión social. En fin”, consigna Costa. Y pone en el centro de la discusión, nuevamente, la naturaleza misma de la cuestión. La IA no puede pensarse desde una perspectiva únicamente operativa, instrumental, ingenieril o maquínica. Por el contrario, la primera paradoja que contradice esta probabilidad radica en la evidencia de que quienes avanzaron hasta este borde son quienes ahora “advierten” a los estados sobre los riesgos catastróficos de sus propias creaciones. Uno de esos riesgos es la posible pérdida de control que la aceleración tecnológica autonomizada exceda cualquier probabilidad de contralor. Esto es lo que los padres de la IA y muchos otros científicos empiezan a entrever: la existencia, en un futuro cercano, de una inteligencia capaz de amenazar o superar cualquier intento de contralor humano sobre esos dispositivos.

En efecto, decenas de científicos comienzan a coincidir en la urgencia que depara la era. Esto es, que la “explosión de inteligencia” podría desencadenar una aceleración dramática de una IA sin control, capaz de producir cambios dramáticos en la realidad planetaria en tiempos fatalmente cortos. Por eso piden la intervención de los estados para intentar controlar o regular este peligro. Ya sabemos de la existencia de episodios recientes capaces de conmocionar la propia existencia humana, al menos como la conocimos hasta ahora.

La ONU convocó recientemente a cuatro decenas de expertos para ocuparse de manera urgente sobre esta situación problemática y urgente. Uno de ellos es Mark Coeckelbergh (imagen), profesor en la Universidad de Viena y uno de los filósofos de la tecnología más reputados del mundo. Su presencia es crucial porque, como dijimos al principio, nos encontramos frente a algo que la técnica quizás no está en condiciones de controlar. Coeckelbergh avisa que, en un escenario de descontrol, la gran mayoría de la humanidad se verá severamente perjudicada si no se actúa inmediatamente. “El verdadero problema es de desigualdad y de justicia: un dilema de fondo para la democracia y para todos nosotros”. “En ese sentido veo una deriva evidente hacia una mayor concentración de poder y hacia un sesgo marcadamente autoritario donde, al igual que ocurrió en su momento con la energía nuclear, la ciudadanía apenas tiene nada que decir. Como democracias, también en Europa, debemos recuperar el control. Y no recuperarlo frente a la IA, sino frente a los tech Bros” (*). Una cuestión de naturaleza social, política y filosófica, sin duda alguna.

(*) Disponible en https://www.eldiario.es/tecnologia/ejecutivos-cientificos-alertan-explosion-desarrollo-ia-altamente-capaz-sobrehumana_1_13545777.html