AI-onderzoekers vermoeden voor het effect van een ‘stochastische papegaai’ door AI-tekstgenerators. Zij zouden liever zien dat bedrijven kleinere, gecureerde datasets gebruiken om modellen te trainen.
Onderzoekers die bezig zijn met risico’s van AI afname recent daarom een ’dag van de stochastische papegaai’, meldt Venturebeat. Die term komt uit een paper van twee onderzoekers die alternatief bij Google werkt over de risico’s van grote taalmodellen, zoals de modellen voor tekstgenerators heten. onderliggende systemen zijn ‘toevalspapegaaien’, omdat ze net als die dieren woorden herhalen die ze uit hun trainingsdata halen zonder zich bewust te zijn van de betekenis.
Veel van de problemen die het papier kan opleveren, zijn nog steeds. Door de grote dataset zit daar veel materiaal bij die AI-tekstgenerators niet zouden moeten worden herhaald, zoals bewegingen tot geweld, porno en discriminatie. Bedrijven proberen die eruit te halen door mensen correcties te laten uitvoeren. Die mensen zijn in het geval van OpenAI laag betaalde Kenianen, schreef eerder Wired. Daardoor ligt de uitbuiting van werknemers op de loer, tussen de onderzoekers.
Bovendien zit er een vooringenomenheid in teksten op internet, omdat die in hoge mate geschreven zijn door witte mensen en meer door mannen dan door vrouwen, zo vinden de onderzoekers. Daardoor komt die bias automatisch terecht in de LLM, zonder dat daar duidelijk is hoe die tot stand komt.
Oplossingen zijn onder meer werken met kleinere, gecureerde datasets voor training. Dat moet veel van de problemen rond moderatie en vooringenomenheid voorkomen. Daarnaast willen sommige onderzoeken dat AI-modellen transparant zijn over waar zij antwoorden vandaan halen.
credit :Source link
