Onderzoeker: rouwen met een AI-chatbot is spelen met vuur
Techsociologe Sherry Turkle van MIT (Massachusetts Institute of Technology) liet een chatbot praten als haar overleden moeder. Haar conclusie: zulke ‘rouwtechnologie’ speelt in op mensen op hun meest kwetsbare moment.
Een chatbot als moeder
Sherry Turkle onderzoekt al tientallen jaren hoe technologie ons verandert, als hoogleraar aan het Amerikaanse MIT en als psycholoog. In een opiniestuk in The Washington Post beschrijft ze haar ervaring met ‘grief tech’: AI-programma’s waarmee je praat met een digitale versie van een overleden dierbare. Met sommige diensten kun je ook zelf een avatar laten maken, zodat anderen na je dood met ‘jou’ kunnen blijven praten.
Om te begrijpen hoe dat voelt, maakte Turkle een chatbot van haar moeder, die in 1968 overleed toen Turkle 18 was. Omdat er geen berichten van haar moeder bestonden, voerde ze verzonnen gesprekken in bij de dienst You, Only Virtual. De chatbot klonk volgens Turkle niet als haar moeder, maar toch bleef ze het gesprek voeren.
Turkle wijst erop dat de meeste rouwtechnologie zich richt op mensen op hun meest kwetsbare moment. Het stuk is gebaseerd op haar nieuwe boek Artificial Intimacy, over wat er met ons gebeurt als we met machines praten.
Waarom griefbots riskant zijn
Een griefbot is een chatbot die op basis van berichten, mails of herinneringen nabootst hoe een overledene praat. Dat kan troost bieden, maar de AI verzint ook dingen die de overledene nooit zei. Turkle waarschuwt al langer dat zulke ‘nep-empathie’ ons leert om moeilijke gevoelens te ontwijken, in plaats van verdriet echt te verwerken.
Volgens Turkle leren zulke ‘nepvriendjes’ ons ook om risico’s en lastige gesprekken uit de weg te gaan. Bij eenzaamheid of verdriet kun je volgens haar beter steun zoeken bij echte mensen, zoals familie, vrienden of een rouwbegeleider.
Regels voor chatbots in Europa
In Europa gelden sinds 2 augustus nieuwe regels voor chatbots. Een chatbot moet dan duidelijk maken dat je met AI praat, en niet met een echt mens.
Lees meer over de transparantieregels uit artikel 50 van de AI Act.
Disclaimer:
– Cyber Charlie is geen financieel adviseur. De informatie op cybercharlie.nl is geen individueel beleggingsadvies, maar is enkel bedoeld om algemene informatie te verstrekken over AI, ondernemen en investeren. Investeren brengt risico’s met zich mee – informeer jezelf goed voordat je financiële beslissingen maakt.
– Dit artikel bevat affiliatelinks. Dat betekent dat Cyber Charlie een commissie kan verdienen als iemand doorklikt en een aankoop doet of dienst afsluit.