Advocaten van het Amerikaanse advocatenkantoor Levidow, Levidow & Oberman zijn beboet voor het indienen van informatie die verzonnen werd door ChatGPT. In sommige gevallen klopten details niet en in andere gevallen werden zaken volledig door de chatbot bedacht.
Het incident vond plaats in een proces tegen de Colombiaanse luchtvaartmaatschappij Avianca; advocaten van Levidow, Levidow & Oberman gebruikten ChatGPT om eerdere omgekeerde rechtszaken te citeren, zo schrijft The Guardian. Advocaten kunnen op basis van jurisprudentie zaken naar eenzelfde uitspraak proberen te sturen, maar in dit geval gedeeltelijke of volledige door ChatGPT te zijn verzonnen.
Voor de bewijsvoering krijgt het advocatenkantoor een boete van omgerekend bijna 4600 euro. Volgens de rechter betrokken, Peter Kevin Castel, hebben de advocaten ‘neppe juridische opinies met fictieve citaten’ ingediend. Hoewel de rechtbank het materiaal al snel in twijfel trok, zouden de advocaten hun foutieve informatie hebben gevolgd om zich te verdedigen. De advocaten zeggen nooit kwaadwillend foutieve informatie te hebben ingediend.
De betrokken rechter zegt dat er in principe niets mis is met het gebruik van kunstmatige intelligentie voor juridisch werk, maar dat de verantwoordelijkheid bij de advocaten ligt: ”Technologische ontwikkelingen zijn heel gewoon en er is niets inherent ongepast met het gebruik van betrouwbare kunstmatige intelligentie als Maar de regels beschrijven dat advocaten een controlerende rol hebben wat de juistheid van ingediend materiaal betreft.”
Het is een algemeen bekend feit dat AI-taalmodellen informatie aanpassen of bepalen. Tweakers schreef onlangs een achtergrondverhaal over de werking van deze modellen en waarom dat tot ‘hallucinerende’ chatbots kan leiden.
credit :Source link
