Errore legale di Claude: l’AI di Anthropic cita fonti inesistenti in aula | Large language models | Chatgpt 4 | Chatgpt login | Turtles AI

Un errore generato dall’AI Claude di Anthropic ha portato a una citazione legale errata in una causa per violazione del copyright, costringendo l’avvocato dell’azienda a scusarsi pubblicamente.

Punti chiave:

• Claude, l’AI di Anthropic, ha generato una citazione legale con titolo e autori inesatti.
• L’avvocato di Anthropic ha ammesso l’errore, definendolo "imbarazzante e involontario".
• La causa coinvolge Universal Music Group e altri editori musicali, che accusano Anthropic di violazione del copyright.
• Il caso evidenzia le sfide legate all’uso dell’AI nel contesto legale.

Nel corso di una causa intentata da Universal Music Group e altri editori musicali contro Anthropic per presunta violazione del copyright, è emerso che l’AI Claude dell’azienda ha generato una citazione legale errata. La citazione, utilizzata in una dichiarazione dell’esperta di dati di Anthropic, Olivia Chen, conteneva un titolo e autori inesatti, sebbene l’anno di pubblicazione e il link fossero corretti. L’avvocato di Anthropic, Ivana Dukanovic, ha ammesso l’errore, attribuendolo a un controllo manuale insufficiente e definendolo "imbarazzante e involontario".

La causa, avviata nel 2023, accusa Anthropic di aver utilizzato testi protetti da copyright per addestrare l’AI Claude, consentendo così la generazione di testi musicali quasi identici a quelli originali. Gli editori musicali sostengono che Claude possa riprodurre testi di canzoni famose, come "Roar" di Katy Perry e "I Will Survive" di Gloria Gaynor, senza autorizzazione. La giudice federale Susan van Keulen ha ordinato ad Anthropic di rispondere alle accuse, sottolineando la gravità della situazione.

Questo incidente si inserisce in un contesto più ampio di preoccupazioni riguardo all’affidabilità dell’AI nel settore legale. In precedenza, altri avvocati sono stati criticati per aver utilizzato materiali generati dall’AI senza una verifica adeguata. Nonostante ciò, le startup legali basate sull’AI continuano ad attirare investimenti significativi. Harvey, ad esempio, una startup che utilizza l’AI per assistere gli avvocati, è in trattative per raccogliere oltre 250 milioni di dollari, con una valutazione di 5 miliardi di dollari.

La vicenda evidenzia le sfide e le responsabilità legate all’integrazione dell’AI nel sistema legale, sottolineando la necessità di controlli rigorosi e di una maggiore consapevolezza nell’uso di queste tecnologie.