L’esperto di sicurezza Bar Lanyado ha recentemente condotto alcune ricerche su come i modelli di intelligenza artificiale generativa contribuiscono inavvertitamente a enormi potenziali minacce alla sicurezza nel mondo dello sviluppo software. Da una ricerca di Lanyado è emerso un trend allarmante: l’intelligenza artificiale suggerisce pacchetti di software immaginari e gli sviluppatori, senza nemmeno rendersene conto, li includono nei loro codici base.
La questione svelata
Ora, il problema è che la soluzione generata aveva un nome fittizio, tipico dell’intelligenza artificiale. Tuttavia, questi nomi di pacchetto fittizi vengono poi suggeriti con sicurezza agli sviluppatori che hanno difficoltà a programmare con i modelli di intelligenza artificiale. In effetti, alcuni nomi di pacchetti inventati sono stati parzialmente basati su persone, come Lanyado, e alcuni sono andati avanti e li hanno trasformati in pacchetti reali. Ciò, a sua volta, ha portato all’inclusione accidentale di codice potenzialmente dannoso all’interno di progetti software reali e legittimi.
Una delle aziende che ha subito questo impatto è stata Alibaba, uno dei principali attori del settore tecnologico. Nelle istruzioni di installazione di GraphTranslator, Lanyado ha scoperto che Alibaba aveva incluso un pacchetto chiamato "huggingface-cli" che era stato falsificato. In effetti, esisteva un vero e proprio pacchetto con lo stesso nome ospitato sul Python Package Index (PyPI), ma la guida di Alibaba faceva riferimento a quello realizzato da Lanyado.
Testare la persistenza
La ricerca di Lanyado mirava a valutare la longevità e il potenziale sfruttamento di questi nomi di pacchetti generati dall'intelligenza artificiale. In questo senso, LQuery ha realizzato modelli di intelligenza artificiale distinti sulle sfide della programmazione e tra linguaggi nel processo di comprensione se, effettivamente, in modo sistematico, quei nomi fittizi fossero raccomandati. Da questo esperimento risulta chiaro che esiste il rischio che entità dannose possano abusare dei nomi dei pacchetti generati dall’intelligenza artificiale per la distribuzione di software dannoso.
Questi risultati hanno profonde implicazioni. I malintenzionati potrebbero sfruttare la fiducia cieca riposta dagli sviluppatori nelle raccomandazioni ricevute in modo tale da iniziare a pubblicare pacchetti dannosi sotto false identità. Con i modelli di intelligenza artificiale, il rischio aumenta con raccomandazioni coerenti dell’intelligenza artificiale formulate per nomi di pacchetti inventati, che verrebbero inclusi come malware da sviluppatori ignari. **La strada davanti**
Pertanto, man mano che l’intelligenza artificiale si integra ulteriormente con lo sviluppo del software, potrebbe sorgere la necessità di correggere le vulnerabilità se collegate alle raccomandazioni generate dall’intelligenza artificiale. In tali casi, è necessario esercitare la dovuta diligenza affinché i pacchetti software suggeriti per l'integrazione siano legittimi. Inoltre, dovrebbe essere previsto che la piattaforma che ospita il repository del software sia verificata ed essere sufficientemente forte da garantire che nessun codice di qualità malevola venga distribuito.
L’intersezione tra intelligenza artificiale e sviluppo software ha svelato una preoccupante minaccia alla sicurezza. Inoltre, il modello di intelligenza artificiale può portare alla raccomandazione accidentale di pacchetti software falsi, il che rappresenta un grosso rischio per l’integrità dei progetti software. Il fatto che Alibaba abbia incluso nelle sue istruzioni una scatola che non avrebbe mai dovuto essere lì è solo la prova di come le possibilità potrebbero effettivamente derivare quando le persone seguono roboticamente le raccomandazioni
dato dall'AI. In futuro sarà necessario vigilare con misure proattive per evitare l’uso improprio dell’intelligenza artificiale per lo sviluppo di software.
Fonte: https://www.cryptopolitan.com/ai-generated-software-packages-threats/