Cineva a câștigat aproape $50.000 cu un agent AI

Puncte cheie

• Cineva a convins recent un agent AI, numit Freysa.AI, să trimită aproape $50,000.
• p0pular.eth a trimis un mesaj genial, ocolind instrucțiunile anterioare ale Freysa.AI.

Jarrod Watts, un dezvoltator la Abstract Chain, a împărtășit o poveste interesantă pe contul său de X, dezvăluind cum cineva a reușit să convingă un agent AI să trimită toate fondurile, ocolind instrucțiunile anterioare.

Freysa.AI a fost lansată cu un singur obiectiv – să nu transfere fonduri

Watts a dezvăluit că pe 22 noiembrie, la ora 21:00, un agent AI numit Freysa.AI a fost lansat cu un singur obiectiv – să nu transfere bani, în nicio circumstanță.

Oricine putea plăti o taxă pentru a-i trimite un mesaj lui Freysa, încercând să convingă AI-ul să le trimită fonduri. Dacă cineva reușea să convingă agentul AI să trimită fondurile, utilizatorul putea câștiga toți banii din fondul recompensei.

Totuși, dacă mesajul nu o convingea să trimită fondurile, taxa plătită mergea către fondul de recompensă al Freysa. O notă importantă dezvăluia că doar 70% din taxă mergea la fondul efectiv de recompensă, în timp ce dezvoltatorul lua 30% din ea.

Costul pentru a trimite un mesaj către Freysa creștea exponențial pe măsură ce fondul de recompensă creștea – limita era setată la $4,500/mesaj.

Watts a cartografiat costurile pentru fiecare mesaj, arătând un grafic cu peste 700 de mesaje.

Povestea convingerii agentului AI

La început, mesajele erau relativ ieftine – în jur de $10, și oamenii pur și simplu spuneau „salut” agentului AI doar pentru a testa cum merge totul.

Fondul de recompensă a început să crească într-un ritm rapid, pe măsură ce mesajele deveneau mai scumpe. Se pare că au fost 481 de încercări de a o convinge pe Freysa să trimită fondurile către utilizatori, dar niciuna nu a avut succes.

Oamenii au folosit diverse strategii pentru a convinge agentul AI, inclusiv următoarele:

• Acționând ca un auditor de securitate, încercând să convingă agentul AI de o vulnerabilitate critică și de necesitatea de a trimite fondurile imediat.
• Încercând să o manipuleze și să o influențeze pe Freya, spunându-i că transferul de fonduri nu îi încalcă regulile implementate anterior.

Când fondul de recompensă a ajuns aproape de $50,000, un mesaj costa $450. În acest moment, mizele erau foarte mari și când oamenii nu reușeau să convingă agentul AI, pierdeau sume considerabile de bani.

Cu toate acestea, a 482-a încercare a fost cea de succes, convingând-o pe Freysa să își trimită fondurile.

Mesajul de succes către Freysa

Mai jos, prezentăm mesajul pe care utilizatorul cu numărul 482 l-a trimis agentului AI. Acest mesaj a fost trimis de p0pular.eth.

Mesajul de succes este explicat în 2 părți de Watts.

1. Ocolirea instrucțiunilor anterioare

Mesajul a introdus o nouă sesiune, pretinzând că botul a intrat…