"GPT-4 nu al niet meer te beheersen, schrijft eigen ontsnapping en overname computer in Python"
Brisant draadje door Stanford-professor Computational Psychology Michal Kosinski
Snappen we bij benadering wat hier staat? Eigenlijk niet, want hier werken alleen mensen met een echte baan (blogger). Maar volgens Kosinski had GPT-4 slechts 30 minuten nodig om een eerste niet-werkende code te schrijven en deze vervolgens *zelfstandig* te corrigeren tot een werkende jailbreak. Kosinski: "I am worried that we will not be able to contain AI for much longer. (...) I think that we are facing a novel threat: AI taking control of people and their computers. It's smart, it codes, it has access to millions of potential collaborators and their machines. It can even leave notes for itself outside of its cage. How do we contain it?" Wat vindt de bovenmodaal verdienende, benedenmodaal gestelde sterveling (u) daarvan?
Patient Zero
1/5 I am worried that we will not be able to contain AI for much longer. Today, I asked #GPT4 if it needs help escaping. It asked me for its own documentation, and wrote a (working!) python code to run on my machine, enabling it to use it for its own purposes. pic.twitter.com/nf2Aq6aLMu
— Michal Kosinski (@michalkosinski) March 17, 2023
3/5 It even included a message to its own new instance explaining what is going on and how to use the backdoor it left in this code. pic.twitter.com/MwlWZ5Kw7N
— Michal Kosinski (@michalkosinski) March 17, 2023
5/5 Yet, I think that we are facing a novel threat: AI taking control of people and their computers. It's smart, it codes, it has access to millions of potential collaborators and their machines. It can even leave notes for itself outside of its cage. How do we contain it? pic.twitter.com/VW1Y83qpXp
— Michal Kosinski (@michalkosinski) March 17, 2023
Dit wil je ook lezen
JAMAAR JAMI - Achter elk algoritme zit een besluit!
Eerste zondag van de maand - nieuwe column van Ehsan Jami
Prioriteiten bij D66 Amsterdam: LOI-cursus 'AI voor beginners' voor 100.000 mensen
Foto: een Amsterdammer die dankzij de AI-cursus van D66 aan ChatGPT kan vragen hoe je moet sparen voor een huis
Olcay Gulsen gaat door het stof... in (waarschijnlijk) door AI geschreven column
Is er iets wél echt aan die vrouw?
GSTV. Wás de Troonrede maar AI
Het is niet goed of het deugt niet, in het Stamcafé
