GTO. Game Theory Optimal. Ciężko dzisiaj usłyszeć słowo poker, nie słysząc słowa GTO: "Graj GTO.", "GTO ma odpowiedź", "Solver gra GTO", "GTO nie da się pokonać" etc. 

Ale jak poprosisz kogoś o wyjaśnienie co to naprawdę jest, to jakoś trudniej coś sensownego usłyszeć. Może ktoś powtórzy zapamiętaną regułę i tyle.

W jednym zdaniu: GTO to strategia, której matematycznie nie da się pokonać na dystansie. Przeciwnik może znać ją całą i dalej nie zyska nad tobą przewagi.

Pokażę Wam dzisiaj, czym to naprawdę jest, na podstawie prostej, podwórkowej gry: papier, kamień, nożyce. Co ona ma wspólnego z pokerem? Ano całkiem sporo. 

Zaczynamy. 


Skąd w ogóle to całe GTO

Teoria gier to dział matematyki  m.in. o decyzjach, których wynik zależy nie tylko od ciebie, ale też od tego, co zrobią inni. John Nash (btw polecam film "Piękny umysł") udowodnił w 1950 roku, że w takich grach istnieje punkt równowagi: zestaw strategii, przy którym nikomu nie opłaca się nic zmieniać na własną rękę. Dostał za to Nobla. GTO w pokerze to właśnie ta równowaga, przeniesiona do świata kart.

Solver to program, który tę równowagę liczy dla konkretnego rozdania. Dostaje range, stacki i sizingi, a potem gra sam ze sobą miliony razy, poprawiając na zmianę obie strategie, aż żadna strona nie może już nic ugrać. Solvery weszły do pokera nieco ponad dekadę temu. Ale ważna rzecz: solver nie rozumie pokera. Nie wie, co to blef, a co value. Po prostu iteruje do równowagi. Rozumienie, DLACZEGO wynik wygląda tak, a nie inaczej, to nasza robota, nie jego.

I jedno zastrzeżenie: solver liczy przybliżenie równowagi przy założeniach, które sam mu podajesz. Zmienisz range'y albo sizingi lub dystans do równowagi - zmieni się odpowiedź. Solver to nie wyrocznia. To kalkulator. Liczy zadane mu równanie. Wiele osób szuka tam odpowiedzi na pytanie "Czy zagrałem dobrze?". Ale odpowiedź na nie będzie zawsze ograniczona do danych wejściowych, które mu podasz. Masz duży wpływ na odpowiedź, którą dostajesz. I jak tu być obiektywnym? 


Co znaczy "optymalnie"

Game Theory Optimal to strategia, której matematycznie nie da się pokonać w długim terminie. Cokolwiek wymyśli przeciwnik, nie zyska nad tobą przewagi. W najgorszym scenariuszu wychodzisz na zero, a jeśli on popełni jakikolwiek błąd - zarabiasz.

Jest w tej definicji bardzo ważne założenie, często pomijane. Szukając strategii GTO zakładamy, że przeciwnik zna naszą strategię. Całą. Widzi ją jak na dłoni i może się dowolnie dostosować. A jego najlepszym wynikiem kontra nasza strategia, jest gra na zero. Tak właśnie działają solvery: grają sobie jeden przeciw drugiemu, aż dojdą do momentu, w którym nikt nie jest w stanie zyskać przewagi. 


Miara sukcesu: EV

Zanim zaczniemy grać w grę, umówmy się na sposób pomiaru sukcesu. Wygrana runda to +1, remis 0, przegrana −1. EV, czyli wartość oczekiwana, to średnia z tych wyników ważona tym, co i jak często gra przeciwnik. Mówi ci, ile zarabiasz, jeśli powtórzysz to zagranie wiele wiele razy.

Przykład. Przeciwnik gra sam kamień. Co ty robisz, żeby maksymalnie wykorzystać tendencję przeciwnika?  Odpowiedz sobie na to pytanie.

Pokaż odpowiedź

Ty grasz papier. Wygrywasz 100% czasu, a więc:

EV(papier) = 1·(+1) + 0·0 + 0·(−1) = +1 

Tyle teorii. W praktyce zobaczysz EV w każdej gierce poniżej. Wszystkie warianty zebrane w jednym miejscu znajdziesz też w narzędziu pawel.life/tools/rps-gto.


Kamień, papier, nożyce

Zasady pewnie znasz. Kamień bije nożyce, nożyce biją papier, papier bije kamień. 

Zacznijmy od strategii, które GTO nie są. Mówię ci wprost: rzucam kamień w 100% przypadków. Co robisz? Grasz papier. Każdą rundę. EV(papier) = +1,00, wygrywasz wszystko. Moja strategia jest exploitable do bólu.

Kliknij Podpowiedź w grze, jeśli chcesz gotową kontrę.

Tym razem przeciwnik poprawia się, mimo że nadal uwielbia kamień to rzuca go rzadziej: kamień 80%, papier 10%, nożyce 10%. Jaki jest Twój maksymalny exploit? Odpowiedz, zanim klikniesz. 

Pokaż odpowiedź

Nie zmieniasz nic, dalej grasz sam papier. Policzmy:

EV(papier) = 0,8·(+1) + 0,1·0 + 0,1·(−1) = +0,70 na rundę

Leak jest mniejszy, ale nadal miażdżysz przeciwnika. Zauważ na wykresie, że linia skacze mocniej niż w poprzedniej grze. To wariancja: przeciwnik czasem trafi nożyce w twój papier i pojedyncze rundy przegrasz, mimo że zagranie jest zyskowne.

Przeciwnik to widzi i jeszcze raz zmienia swoją strategię, tym razem: kamień 50%, papier 30%, nożyce 20%. Co robisz?

Pokaż odpowiedź

Twoja strategia pozostaje taka sama. Maksymalny exploit to nadal papier 100%, ale zarabiasz już zdecydowanie mniej.

EV(papier) = 0,5·(+1) + 0,3·0 + 0,2·(−1) = +0,30 na rundę

Widzisz schemat. Dopóki mix przeciwnika jest niezbalansowany, ty zawsze znajdziesz na niego kontrstrategię z dodatnim EV. Zauważ, że wariancja ponownie robi się większa, kiedy edge maleje.


Ile wyciągać z błędów przeciwnika?

Powiedzmy, że znam twój leak: lubisz kamień i podświadomie rzucasz go 40% czasu, resztę po równo (30%). Teoretyczny maks dla mnie, to granie samego papieru:

EV(papier) = 0,4·(+1) + 0,3·0 + 0,3·(−1) = +0,10 na rundę

To jest max exploit. Wyciskam z twojego błędu każdy możliwy punkt EV. Ale +0,10 to mały edge: na wykresie możesz zobaczyć, jak przez pierwsze kilkanaście rund wariancja potrafi go ukryć. Małe przewagi realizuje się na dłuższym dystansie, nie w trakcie jednej sesji.

I drugi haczyk. Gram sam papier, więc po kilku rundach widzisz, co się dzieje. I się dostosowujesz.

Przy stole to samo. Zauważyłeś, że ktoś folduje za często na 3-bet, więc 3-betujesz go szerzej. Ale jak zaczniesz to robić co rękę, to jest spora szansa, że się zorientuje. I stracisz przyszłe szanse na ten exploit. Sztuką jest znalezienie exploita. Sztuką też jest używanie go tak, żeby zarabiał jak najwięcej.


Jedyna strategia, której nie pokonasz

Kamień, papier i nożyce po równo, każde 1/3 czasu, wybierane losowo.

Ile tutaj zarabiasz? 

Pokaż odpowiedź

EV(papier) = 1/3·(+1) + 1/3·0 + 1/3·(−1) = 0,00

Zero. Same nożyce? To samo zero. Mieszasz po równo jak przeciwnik? Też zero. Nie istnieje adjustment, który cokolwiek tu wygra.

To jest właśnie unexploitable. Żadna wiedza o mixie przeciwnika nic ci nie daje. I działa to w obie strony: każdy mix inny niż 1/3, 1/3, 1/3 da się w tej grze wykorzystać i pokonać. Pograj chwilę i patrz na wykres: cokolwiek wymyślisz, linia będzie się kręcić wokół zera.


Twój exploit też ma exploit

Wróćmy na chwilkę do początku. Przeciwnik grał sam kamień, ty grałeś sam papier i zabierałeś całą pulę. Czy TWOJA strategia była wtedy optymalna?

Była, ale tylko pod tą konkretną strategię przeciwnika. 

Wygrywała z przeciwnikiem, ale była tak samo exploitowalna. Wystarczyło, żeby przeciwnik się połapał i przerzucił na same nożyce, i role się odwracają. Bo każdy exploit ma swój exploit. Kontra na kamień to papier, kontra na twój papier to nożyce, a na nożyce znowu kamień. Krąg się zamyka. Tutaj łatwo to dostrzec, w pokerze trudniej.

Warto zapamiętać ten prosty mechanizm, bo przy stole pokerowym dzieje się bez przerwy: kontrując czyjś błąd, sam wystawiasz się na exploit.

Czas na przedostatnią praktykę. Przeciwnik poniżej nie ma sztywnego mixu. Liczy twoje częstotliwości z ostatnich 10 rund i gra kontrę na twój najczęstszy ruch. Czy wiedząc jak on gra, dasz radę być krok przed nim i wygrać?

Podpowiedź w grze pokazuje, jak skontrować jego kontrę.


Czym poker różni się od tej prostej gry?

W kamień, papier i nożyce strategia GTO ma jedną brutalną wadę: nie wygrywa. EV równego miksowania przeciwko jakiejkolwiek strategii to zero. Gwarantuje ci remis z każdym przeciwnikiem świata. I nic ponad to.

W pokerze jest inaczej. Poker jest dużo bardziej skomplikowany. 

Strategia GTO w pokerze wygrywa. Nie dlatego, że jest sprytna. Dlatego, że ludzie po drugiej stronie popełniają błędy, a ich odchylenia od równowagi oddają ci EV. A będzie tych błędów mnóstwo, bo perfekcyjna gra w pokera jest zwyczajnie niemożliwa dla człowieka. Za dużo możliwych scenariuszy, za mało pamięci operacyjnej.

I tu wracamy do tytułu. Skoro nikt nie potrafi grać perfekcyjnie, to nikt nie gra GTO. Ja nie gram. Ty nie grasz. Solvery liczą przybliżenia, a my uczymy się przybliżeń tych przybliżeń. I na tych przybliżeniach uczymy się exploitów. Bo nie ma exploitu bez GTO. 

Podobał Ci się taki styl artykułu? GTO w prostej postaci, a do tego interaktywne przykłady? Daj znać pisząc do mnie, albo przynajmniej przyciskiem na dole.