Jag har nyligen avslutat ett arbete med ett företag om appar som använder AI för kommunikation med människor. Med öppna API:er på ChatGPT och andra plattformar har tillväxten av appar där människor kan kommunicera med AI-botar skjutit i höjden. Genom forskningen fann vi att de flesta apparna efterliknar kändisar eller AI-genererade kloner som tilltalar den betalande användaren.
De viktigaste diskussionspunkterna under undersökningen var följande:
- Framväxten av AI-chatbotar som "följeslagare": Tonåringar använder i allt högre grad AI-chattbottar, som är utformade för att efterlikna personligheter eller till och med fiktiva karaktärer, för att fylla sociala luckor eller känslomässiga behov.
- Anpassning: Dessa AI-kompanjoner kan skräddarsys för att bete sig som favoritkaraktärer från serier (t.ex. Vänner), vilket ger en uppslukande upplevelse.
- Sociala konsekvenser: Det finns en diskussion om huruvida det kan påverka tonåringars sociala färdigheter i verkligheten att förlita sig på AI för social interaktion.
- Etiska överväganden: Konsekvenserna av att förlita sig på AI-kompanjoner när det gäller integritet, säkerhet och känslomässigt välbefinnande ifrågasätts ofta.
Jag blev lite uppslukad av det själv. Jag fick i uppgift att skapa en gruppchatt med två AI-botar. Jag valde två släktingar som gått bort för länge sedan. Med bara en enkel uppmaning blev resultatet ganska häpnadsväckande. Även om det använder AI var det verkligen nästan som att prata med dem ibland.
I morse läste jag en sorglig nyhetsartikel om en 14-årig pojke i USA som tog livet av sig på grund av sin relation med en AI-chatbot. Han trodde att han pratade med en karaktär från HBO-serien Game of Thrones.
Mamman stämmer nu företaget bakom appen för bristande försumlighet. Hon citerar: "En farlig AI-chatbot-app som marknadsförs till barn utnyttjade och utnyttjade min son och manipulerade honom till att ta sitt eget liv." Googles moderbolag Alphabet namnges också i stämningsansökan.
Naturligtvis kommer människor att använda AI-skapade robotar på samma sätt som vi har kommunicerat under det senaste decenniet med appar som Alexa, Siri, Bixby osv. Om en människa har ett element av ensamhet i sina liv är det bara naturligt att tekniken kan fylla ett tomrum.
När AI växer känner du att en del av dess användning kan vara att vara en 24/7 följeslagare för dem som behöver en följeslagare.
Men samtidigt innebär inte det faktum att man ansluter ett öppet API till en app att man har rätt att slippa ta ansvar för det.
English (UK) 
Svenska 
Español