Teorija igara objašnjava kako algoritmi mogu povisiti cijene

Izvorna verzija od ovu priču pojavio u Časopis Quanta.

Zamislite grad s dva trgovca widgetima. Kupci preferiraju jeftinije widgete, pa se trgovci moraju natjecati tko će postaviti najnižu cijenu. Nezadovoljni svojim oskudnim profitom, sastaju se jedne noći u zadimljenoj krčmi kako bi razgovarali o tajnom planu: ako zajedno podignu cijene umjesto da se natječu, oboje mogu zaraditi više novca. Ali takva vrsta namjernog namještanja cijena, koja se zove tajni dogovor, dugo je bila nezakonita. Trgovci widgetima odlučuju ne riskirati, a svi ostali mogu uživati ​​u jeftinim widgetima.

Već više od jednog stoljeća američki zakon slijedi ovaj osnovni obrazac: Zabranite te zakulisne dogovore i treba zadržati poštene cijene. Ovih dana to nije tako jednostavno. U širokim dijelovima gospodarstva prodavači se sve više oslanjaju na računalne programe koji se nazivaju algoritmi učenja, koji opetovano prilagođavaju cijene kao odgovor na nove podatke o stanju na tržištu. Oni su često mnogo jednostavniji od algoritama “dubokog učenja” koji pokreću modernu umjetnu inteligenciju, ali još uvijek mogu biti skloni neočekivanom ponašanju.

Dakle, kako regulatori mogu osigurati da algoritmi postavljaju poštene cijene? Njihov tradicionalni pristup neće funkcionirati, jer se oslanja na pronalaženje eksplicitnog tajnog dogovora. “Algoritmi definitivno ne piju jedno s drugim”, rekao je Aaron Rothračunalni znanstvenik na Sveučilištu Pennsylvania.

Ipak a naširoko citiran rad iz 2019 pokazalo je da algoritmi mogu naučiti prešutno se dogovarati, čak i kad nisu bili programirani za to. Tim istraživača suprotstavio je dvije kopije jednostavnog algoritma za učenje na simuliranom tržištu, a zatim im je dopustio da istraže različite strategije za povećanje svoje dobiti. Tijekom vremena, svaki je algoritam kroz pokušaje i pogreške naučio uzvratiti kada drugi smanji cijene – spuštajući vlastitu cijenu za neki ogroman, neproporcionalan iznos. Konačni rezultat bile su visoke cijene, potkrijepljene obostranom prijetnjom rata cijenama.

Implicitne prijetnje poput ove također podupiru mnoge slučajeve ljudskog tajnog dogovora. Dakle, ako želite jamčiti poštene cijene, zašto jednostavno ne zahtijevate od prodavača da koriste algoritme koji su inherentno nesposobni za izražavanje prijetnji?

U nedavni radRoth i još četiri računalna znanstvenika pokazali su zašto to možda nije dovoljno. Dokazali su da čak i naizgled benigni algoritmi koji optimiziraju za vlastiti profit ponekad mogu polučiti loše rezultate za kupce. “Još uvijek možete dobiti visoke cijene na načine koji izvana izgledaju razumno”, rekao je Natalie Collinadiplomirani student koji radi s Rothom koji je koautor nove studije.

Istraživači se ne slažu svi oko implikacija ovog otkrića – mnogo toga ovisi o tome kako definirate “razumno”. Ali otkriva koliko suptilna mogu biti pitanja oko algoritamskog određivanja cijena i koliko ih je teško regulirati.