ChatGPT a fabricat studii de caz care au fost folosite în instanță . Magistrații din această țară solicită reglementări clare pentru AI în justiție
INTELIGENȚA ARTIFICIALĂ. Un caz alarmant a zguduit sistemul juridic din provincia KwaZulu-Natal, Africa de Sud, după ce un chatbot de inteligență artificială, ChatGPT, a fost folosit pentru a crea studii de caz și documente juridice, apoi utilizate în mod oficial într-un litigiu. Incidentul, care are repercusiuni grave pentru justiție, a determinat avocații și experții din țară să solicite urgent norme clare și reglementări stricte privind utilizarea AI în procesul legal.
AI-ul inventează fapte și pune în pericol integritatea actului de justiție
Potrivit informațiilor disponibile, un avocat local a recunoscut că a folosit ChatGPT pentru a genera documente și studii de caz în cadrul unui dosar judecat în instanță. În mod extrem de îngrijorător, chatbot-ul a inventat fapte, a furnizat informații false și chiar a „creat” detalii fictive, care au fost apoi folosite ca probe sau argumente în cadrul procesului. Acest lucru a devenit evident după ce unele detalii furnizate de AI au fost verificate și s-au dovedit a fi complet lipsite de fundament factual.
Incidentul a scandalizat comunitatea juridică, care avertizează asupra riscurilor enorme ale utilizării inteligenței artificiale fără reguli clare. În cazul de față, erorile și informațiile false difuzate în instanță pot duce la decizii judiciare greșite, înșelarea magistraților și prejudicierea drepturilor părților implicate.
Reacția avocaților și solicitările pentru reglementări stricte
În urma acestui eveniment, avocații din Africa de Sud au ieșit rapid cu un apel la autorități pentru a introduce reglementări clare și stricte referitoare la utilizarea AI în sistemul judiciar. Un reprezentant al Asociației Avocaților din Africa de Sud a afirmat că „utilizarea AI trebuie să fie strict reglementată și supravegheată pentru a evita astfel de situații periculoase. În cazul de față, un program de tip ChatGPT a fabricat fapte, iar avocatul care l-a folosit și-a asumat responsabilitatea, dar această practică trebuie să fie reglementată pentru a proteja integritatea justiției.”
Un alt avocat a explicat că, deși AI-ul poate fi o unealtă utilă pentru cercetare și redactare, utilizarea sa trebuie să fie însoțită de verificare umană strictă, pentru a preveni orice risc de fabricare a informațiilor false.
Implicații și necesitatea reglementărilor globale
Incidentul din Africa de Sud scoate în evidență o problemă globală: tehnologia AI evoluează rapid și poate fi folosită în mod abuziv sau inadecvat, fără controale suficiente. Legalitatea și etica utilizării sale în domenii sensibile, precum justiția, trebuie să fie clar stabilite de reglementări naționale și internaționale.
Dezbaterea despre reglementările AI a fost intensificată după acest eveniment, iar oficialii din domeniul juridic și tehnologic solicită urgent elaborarea unor norme clare privind responsabilitatea, verificarea și limitarea utilizării inteligenței artificiale în practică.
Cazul din Africa de Sud reprezintă un semnal de alarmă pentru toate celelalte sisteme legale din lume. până când reglementările vor fi implementate, există riscul ca alte incidente similare să apară, cu consecințe grave pentru justiție și pentru încrederea în sistemele tehnologice. În timp ce AI poate fi un aliat valoros, responsabilitatea în utilizarea sa rămâne o prioritate esențială pentru ca tehnologia să servească drept un instrument de sprijin, și nu de îndus în eroare sau de distrus.
