Qualche giorno fa Bloomberg ha riportato una notizia che ci ha fatto fermare un attimo: pare che dentro OpenAI si stia discutendo se rallentare lo sviluppo dei sistemi più avanzati. Non per motivi commerciali, ma perché nemmeno chi li costruisce è del tutto sicuro di saperli controllare.
Non è una notizia che parla di noi, in teoria. Siamo a Bergamo, non a San Francisco, e le aziende con cui lavoriamo ogni giorno non stanno addestrando modelli linguistici da zero. Ma la domanda che ci siamo fatti leggendola non riguardava OpenAI, riguardava voi: se chi ha creato questi strumenti ammette di non sapere fino in fondo cosa succede quando li lascia andare, quante aziende che li usano già tutti i giorni, per rispondere alle email, per smistare le richieste dei clienti, per scrivere un preventivo, si sono fatte la stessa domanda?
Nella maggior parte dei casi la risposta è no. Non per superficialità: perché uno strumento che funziona bene non fa venire il dubbio, finché non succede qualcosa. Un'email scritta dall'AI che finisce nella cartella sbagliata. Un assistente che risponde a un cliente con un'informazione presa da un contesto vecchio di sei mesi. Un'automazione che, presa da sola, sembra un risparmio di tempo, e messa insieme a tutte le altre diventa un processo che nessuno controlla più davvero.
Non è un discorso contro l'intelligenza artificiale, la usiamo anche noi, tutti i giorni. È un discorso su chi tiene le chiavi. Quando mettiamo in piedi un flusso automatizzato per un cliente, la prima domanda che ci facciamo non è "funziona?", è "chi se ne accorge se smette di funzionare bene, e come?". È una domanda meno entusiasmante di "guarda cosa sa fare", ma è quella che fa la differenza tra uno strumento e un rischio.
Sapete rispondere, per la vostra azienda, alla stessa domanda? Se non ne siete sicuri, è il momento giusto per parlarne con noi.