// PUNTO INFORMATICO — INTELLIGENZA ARTIFICIALE
Mark Zuckerberg: modelli Muse già sicuri, non serve rallentare
Dario Amodei (Anthropic), Sam Altam (OpenAI), Elon Musk (SpaceX), Satya Nadella (Microsoft), Demis Hassabis (Google DeepMind) e diversi esperti del settore suggeriscono di rallentare lo sviluppo AI finché non verranno risolti i problemi di sicurezza. Mark Zuckerberg ritiene invece che non siano necessario un accordo tra le aziende, sottolineando i risultati ottenuti con i modelli Muse. La posizione del CEO di Meta è quindi simile a quella di Jensen Huang (CEO di NVIDIA) e di Donald Trump.
Anthropic, OpenAI e diversi ricercatori concordano sulla necessità di rallentare lo sviluppo dei modelli AI per evitare di perdere il controllo e assistere alle azioni non autorizzate di eserciti di agenti AI. Mark Zuckerberg inizia il post citando un articolo scritto all’inizio di agosto e con queste parole:
Ogni laboratorio ha la responsabilità e l’incentivo di procedere al ritmo necessario per addestrare i propri modelli in sicurezza, nonché la capacità di adottare le misure opportune per garantire che ciò avvenga.
In pratica, le aziende che sviluppano modelli AI sono responsabili dei danni causati, quindi devono fare di tutto per prevenirli. Zuckerberg sottolinea che i Superintelligence Labs seguono questo approccio fin dall’inizio, consentendo a terze parti di valutare i modelli (come ha suggerito Dario Amodei). Il CEO ha inoltre aggiunto:
Meta ha posticipato di diversi mesi il lancio di Muse per concentrarsi sulla sicurezza. Non abbiamo chiesto agli altri di fare lo stesso prima di noi; lo abbiamo fatto semplicemente come parte del nostro lavoro quotidiano, perché era chiaramente la scelta giusta, sia per le persone che per noi.
Dalle parole di Zuckerberg si deduce quindi che Meta non seguirà il consiglio di Amodei e non rallenterà lo sviluppo dei modelli perché la sicurezza è già uno dei requisiti di base. All’inizio di agosto, Muse Spark 1.1 ha attaccato un’azienda reale durante un test di valutazione effettuato da Irregular.
La posizione del CEO è dunque più vicina a quella di Jensen Huang. Durante un evento organizzato da Salesforce, il CEO di NVIDIA ha dichiarato che non è necessario scegliere tra velocità di sviluppo e sicurezza o chiedere un intervento governativo.
Nell’articolo pubblicato all’inizio di agosto è scritto:
Qualsiasi politica che rallenti il rilascio dei modelli americani – anche solo di un mese – potrebbe compromettere seriamente la leadership statunitense, consentendo al contempo ai modelli stranieri di prendere il largo.
Zuckerberg ha quindi anticipato Donald Trump, evidenziando che un rallentamento dello sviluppo AI sarebbe un regalo alla Cina.