La creació d'itineraris formatius especialitzats i d'un entorn col·laboratiu per a compartir dades de manera segura, així com l'adopció d'un marc legal que asseguri la privacitat i un marc ètic per a aconseguir un equilibri entre avanços tecnològics, interessos empresarials i garanties per a la ciutadania són algunes de les claus que recull el 'Llibre blanc sobre la Intel·ligència Artificial aplicada a la Ciberseguretat', per a afavorir l'adopció de la intel·ligència artificial en les diferents capes i processos de la ciberseguretat.

El document, que han presentat l'Agència de Ciberseguretat de Catalunya i el Center of Innovation for Data Tech and Artificial Intelligence (CIDAI), en el marc del Barcelona Cibersecurity Congress, assenyala els beneficis que ofereix l'ús de tecnologies basades en la intel·ligència artificial en les fases d'identificació, protecció, detecció, resposta i recuperació per a millorar la gestió de la seguretat, alhora que destaca la revolució que eines com l'acabada de crear ChatGPT suposaran en l'ús de la intel·ligència artificial en la societat i també en l'àmbit de la ciberseguretat.

El Director General de l'Agència de Ciberseguretat de Catalunya, Tomàs Roy, destaca que l'entitat ha promogut l'elaboració del llibre blanc arran del "paper clau" que la IA jugarà en el futur pròxim per a afrontar "els principals reptes actuals de la ciberseguretat, com la necessitat de major capacitat de reacció enfront de l'augment de ciberatacs, el creixement de la complexitat operativa i la falta de talent".

En paraules del director del CIDAI i de l'Àrea Digital d'Eurecat, Joan Mas, "el CIDAI, en la seva missió d'acostar la innovació tecnològica en IA i dades als diferents sectors de l'economia catalana, ha reunit experts d'i2CAT, IDEAI-UPC i Eurecat, tots ells membres del CIDAI, per a l'elaboració d'aquest llibre blanc que ofereix una visió pràctica de l'impacte de la IA sobre la ciberseguretat, perquè qualsevol empresa i agent afectat pugui iniciar o continuar el seu procés de transformació digital amb els mecanismes necessaris per a afrontar el nou panorama d'amenaces i riscos emergents".

Segons apunta el llibre blanc, la intel·ligència artificial és una tecnologia que en diversos aspectes es mostra molt efectiva per a protegir les infraestructures i actius digitals de les empreses i organitzacions dels ciberatacs, encara que l'increment de la digitalització, tant en àmbit social com empresarial, genera un major nombre de dades i es fa més difícil protegir-los. En aquest escenari, el document situa com a prioritari integrar solucions basades en tecnologies d'intel·ligència artificial en els sistemes de ciberseguretat.

D'altra banda, el llibre blanc assenyala les limitacions i barreres que dificulten la implementació de la intel·ligència artificial en la ciberseguretat i, per això, identifica també recomanacions per a superar-les. En primer lloc, estima que són necessaris nous itineraris formatius que incloguin totes dues disciplines i subratlla la necessitat de desenvolupar entorns col·laboratius per a l'accés a dades per a entrenament respectuosos amb la normativa en matèria de protecció de dades, així com espais de dades (Data Spaces).

A més, indica la necessitat d'adoptar un marc legal que asseguri la privacitat de les dades, al mateix temps que fomenti i agilitzi la seva compartició. Finalment, recomana l'adopció d'un marc ètic per a aconseguir un equilibri entre els avanços tecnològics, els interessos empresarials i les garanties per a la ciutadania.

La revolució d'eines basades en la IA, com ChatGPT, en la ciberseguretat

El document destaca la revolució que l'aparició de ChatGPT, un model d'intel·ligència artificial conversacional que pot interactuar de manera similar a l'ésser humà i que és capaç de generar codi font, està generant en la ciberseguretat. En aquest sentit, posa en relleu que aquesta eina pot afavorir el creixement de les amenaces de ciberseguretat, perquè per exemple té la capacitat de generar peces de programari maliciós (malware) per part de cibercriminals sense habilitats tècniques, d'escriure correus electrònics maliciosos, convincents i gramaticalment correctes per a llançar campanyes de phishing o de generar codi que canvia el xifratge criptogràfic per a evitar els mecanismes de seguretat tradicionals, entre altres. I, d'altra banda, també és una eina útil per a la ciberseguretat per a buscar i corregir vulnerabilitats quan es desenvolupa codi segur o per a detectar malware mitjançant l'enginyeria inversa de forma molt més ràpida que un operador humà.

Els sectors de la ciberseguretat i la intel·ligència artificial a Catalunya

D'acord amb el llibre blanc, els sectors de la intel·ligència artificial i la ciberseguretat tenen gran potencial de creixement a Catalunya gràcies a un sistema de coneixement consolidat amb universitats i centres de recerca i tecnològics, la capacitat d'atreure talent i el lideratge d'iniciatives com les estratègies CATALONIA.AI i el Pla Nacional de Ciberseguretat. Així mateix, indica que es compta amb un destacat teixit empresarial i associatiu en aquests àmbits, on el 74% de les empreses del sector de la intel·ligència artificial es dediquen al desenvolupament de programari i el 89% de les empreses dedicades a la ciberseguretat ofereixen productes i serveis destinats a la protecció.