Prompt hacking per intelligenze artificiali: una nuova competenza

Imparare a dialogare con le macchine per far generare loro contenuti è una competenza che si sta sviluppando nel 2022 e che integrerà le competenze di chi si occupa di contenuti digitali.

Prima di tutto, però, abbiamo bisogno di alcuni elementi condivisi.

___STEADY_PAYWALL___

Che cosa sono i motori generativi?

I motori generativi sono algoritmi progettati per creare contenuti a partire da un input specifico, utilizzando modelli di linguaggio o di immagine appresi durante il loro addestramento.

Che cos’è un prompt, nel mondo dei motori generativi (per semplificare chiamati intelligenze artificiali?

Un prompt è un comando, generalmente in linguaggio naturale (cioè: nel modo in cui parliamo) che viene scritto per chiedere a una macchina di generare un determinato contenuto. Un prompt può essere una parola, una frase, una descrizione, un testo complesso o anche un’immagine.

Il contenuto può essere un’immagine, un testo, un video, un dialogo. Il limite è dato dalla combinazione tra la fantasia e le competenze di chi scrive il prompt e il modo in cui è stata programmata la macchina. I prompt sono l’input fornito a questi algoritmi, che possono essere una parola o una frase, un’immagine o una descrizione, o altro ancora.

Per imparare a lavorare con i motori generativi, bisogna imparare a dare loro dei prompt. Ma c’è di più.

Prompt hacking: che cos’è?

Per spiegarti al meglio cosa sia il prompt hacking, ho chiesto a ChatGPT di dare una definizione. Questo significa che le prossime righe di testo non sono scritte da me ma sono scritte da una macchina, fino al titolo di paragrafo che seguirà.

Il “prompt hacking” è un termine che viene utilizzato per descrivere il processo di modifica o manipolazione dei “prompt” (input) forniti ai motori generativi di immagini, testi e altro per ottenere risultati inattesi o fuori dall’ordinario.

Il “prompt hacking” consiste nel modificare questi input in modo da sfruttare le vulnerabilità o le incongruenze presenti nei modelli utilizzati dai motori generativi, per ottenere risultati inaspettati o fuori dall’ordinario. Ad esempio, un utente potrebbe fornire un prompt ambiguo o una frase apparentemente innocua, ma che viene interpretata in modo errato dal motore generativo, producendo un risultato bizzarro o fuori contesto.

Il “prompt hacking” può essere utilizzato a scopo divertente o artistico, ma può anche essere utilizzato per esplorare i limiti e le vulnerabilità dei motori generativi e per comprendere meglio il loro funzionamento.

Prompt: una serie di esempi

Qui di seguito trovi una serie (in aggiornamento) di esempi di prompt e di generazioni di contenuti realizzati con ChatGPT o con Dall-E o con altri strumenti generativi.