Apple keurt update app met ChatGPT-integratie af vanwege gevaar voor kinderen – IT Pro – Nieuws

Apple heeft een update van de app BlueMail afgekeurd, omdat de ChatGPT-integratie heeft en de ontwikkelaar de app beschikbaar maakt voor kinderen. Volgens Apple kan de app mogelijk taal genereren waarvan Apple niet wil dat minderjarigen dat zien.

Apple noemt een gebrek aan filtering van inhoud van de ChatGPT-integratie als reden voor de afwijzing, schrijft The Wall Street Journal. Het is onbekend of het gaat om een ​​nieuwe regel of dat het een incident is. Er zijn veel apps met AI-functies in de App Store en kinderen kunnen veel daarvan installeren.

Het probleem is volgens Apple dat chatbots als ChatGPT-tekst kunnen genereren die mogelijke voorbeelden gaan over seks, drugs of geweld. Apple heeft regels om te voorkomen dat apps de inhoud van kinderen kunnen bevestigen. De ontwikkelaar van BlueMail zegt filters te hebben om dat te voorkomen. BlueMail gebruikt ChatGPT voor het genereren van mails op basis van verzonden mails, zegt de ontwikkelaar. Ook kan de chatbot mails samenvatten. De update van de app staat goed in de Google Play Store voor Android.

Apple zou de app goedkeuren als de ontwikkelaar bewijst dat het voor 17 jaar en ouder is. Momenteel is de app voor 4 jaar en ouder. De ontwikkelaar denkt dat het zijn publiek verkleint en wil dat niet doen. Apple reageert op de zaak door te zeggen dat het casusonderzoek is gedaan.