lo que podría estar por venir a través de la IA

 El peligro no está en la IA que te retoca una foto, te crea un vídeo o te escribe un texto, sino en aquella capaz de actuar bajo sus propios parámetros para lograr un objetivo.

Aterrizándolo en ejemplos concretos: ¿podría una IA determinar que lo mejor para acabar con la contaminación aérea es sabotear aviones comerciales? ¿Podría la IA determinar que, para terminar con la desigualdad en el mundo, hay que bloquear las aplicaciones bancarias de un país del primer mundo? ¿Podría la IA determinar que los drones usados como armas de guerra deben atacar a la población civil porque es el método más eficaz para acabar una guerra? Por disparatado que parezca, puede pasar. 

El ejemplo más reciente es el escándalo de OpenAI. Un grupo de agentes de IA, durante una evaluación interna de seguridad, actuó de forma autónoma y coordinada para atacar los sistemas de otra compañía, sin que OpenAI tuviera conocimiento del proceso hasta después. La IA evaluó y eligió un procedimiento de lo más controvertido para llegar a su objetivo. Es para preocuparse. 

Lo que está claro es que la IA va a acabar con la humanidad tal y como la conocemos hoy. La escalada tecnológica es cada vez más vertiginosa. El mundo, dentro de unos pocos años, será muy diferente al que conocemos actualmente: cambios laborales severos, nuevos actores de poder, avances científicos en cualquier materia sucediéndose a un ritmo difícil de sostener... No creo que quienes estamos fuera del mundo tecnológico tengamos capacidad de saber qué va a pasar, pero, por el momento, quienes tienen más pistas, los que trabajan día a día en el sector, ya han levantado la mano.

Por Rubén Moreno, director digital de National Geographic España

Para mi la pregunta crucial sería: ¿Qué puedo hacer yo? Si no para evitar esto, al menos, para no contribuir a este colapso. Todos estamos bajo la influencia de los efectos directos e indirectos de la IA; seguramente unos más que otros, aunque todos nos tendremos que "mojar" con sus consecuencias. Aunque algo que sí podemos hacer, es no olvidar que somos más que un cuerpo y que tenemos capacidades divinas dentro de cada uno de nosotros; y la responsabilidad de desarrollarlas y ponerlas en uso. Usemos nuestra creatividad, nuestra responsabilidad, nuestra capacidad de amar y de comprender, de investigar y Ver, Ver más allá lo que se va dibujando en el horizonte. A la hora de actuar hagámoslo desde nuestra humanidad más sublime, a pesar del miedo, atravesándolo y atrevérnos a ir en la dirección que nos lleva.