Cały poker w sześciu kartach

Leduc: mini-poker, na którym uczyły się algorytmy. Trzy gry: naucz się blefować, przestań blefować, zagraj z równowagą.

Sześć kart do gry: J, Q, K w dwóch kolorach na ciemnym tle

W poprzednim wpisie ograłeś sześciu przeciwników w kamień, papier, nożyce. Nauczyłeś się tam trzech rzeczy: czym jest exploit, że każdy exploit ma swój exploit i że istnieje strategia, której nie da się pokonać.

Ale kamień, papier, nożyce to nie poker. Czegoś tam brakowało.

Dwóch rzeczy. Zakrytych kart i zakładów. W RPS obaj wiemy wszystko i płacimy tyle samo. W pokerze nie widzisz mojej ręki, a stawką sterujemy betami. I dopiero z tych dwóch składników rodzi się coś, czego w RPS nie było wcale: blef.

Dziś dam ci całego pokera w wersji mini. Sześć kart, dwie rundy, trzy decyzje. I trzech przeciwników do ogrania.

Czym jest Leduc Hold'em? To uproszczony poker badawczy: talia 6 kart (J, Q, K w dwóch kolorach), jedna karta własna, jedna wspólna, dwie rundy zakładów. Zachowuje blef, value betting i pozycję pełnego pokera, ale jest na tyle mały, że da się go policzyć do końca. Standard w badaniach nad AI (RLCard, PettingZoo).


Poker skurczony do sześciu kart

Ta gra nazywa się Leduc Hold'em. Nie wymyślili jej pokerzyści, tylko badacze AI: potrzebowali pokera na tyle małego, żeby dało się go policzyć do końca, i na tyle prawdziwego, żeby zachował blef, value bet i pozycję. Do dziś jest standardowym poligonem w badaniach nad game AI (środowiska RLCard i PettingZoo).

Zasady:

  • Talia: 6 kart. Walet, Dama, Król, każda ranga w dwóch kolorach.
  • Obaj wrzucamy ante 1 chip. Dostajesz jedną zakrytą kartę. Przeciwnik też.
  • Runda 1: bet albo raise kosztuje 2 chipy. Potem odsłania się jedna karta wspólna.
  • Runda 2: bet albo raise kosztuje 4 chipy. Max dwa raise'y na rundę.
  • Showdown: para z kartą wspólną bije wszystko. Bez pary wygrywa wyższa karta.

Tyle. Całe zasady. A jednak siedzi w nich zaskakująco dużo pokera: masz rękę, której przeciwnik nie widzi, masz turn zmieniający układ sił i masz decyzje o tym, ile pieniędzy wchodzi do puli. Czyli masz wszystko, czego potrzebuje blef.


Gra 1: przeciwnik, który nigdy nie blefuje

Pierwszy bot jest szczery do bólu. Betuje i raisuje tylko wtedy, kiedy ma Króla albo parę. Z resztą czeka i modli się o darmowy showdown.

Zagraj z nim kilkanaście rozdań, zanim czytasz dalej. Spróbuj wyczuć, co robić z Waletem.

Zauważyłeś? Jego zagrania mówią ci wszystko. Bet znaczy siłę, więc twoje Q i J mogą uciekać za darmo. A jego check znaczy słabość, więc... no właśnie.

Właśnie odkryłeś blef. Kiedy on czeka, betujesz KAŻDĄ kartą. Także Waletem, najgorszą kartą w talii. I to zarabia.

Walet w twojej ręce nie zrobił się lepszy. Zarabia, bo przeciwnik wyrzuca wszystko poniżej Króla. Płaci ci nie twoja karta, tylko jego błąd: składa za często. W RPS exploitem był papier na czyjś kamień. Tu exploitem jest bet na czyjś strach.


Gra 2: przeciwnik, który nigdy nie pasuje

Drugi bot to odwrotność pierwszego. Raisuje kiedy tylko może i nie spasował w życiu ani razu.

Pierwsza pokusa: skoro tamtego dało się blefować, to tego też. Sprawdź. Serio, spróbuj go zablefować Waletem.

Boli, co?

Blef zarabia tylko wtedy, gdy przeciwnik umie spasować. Ten nie umie, więc każdy twój blef to podpalanie chipów. Kontra na niego jest dokładnie odwrotna: czysty value bet. Z Królem i parami raisuj ile się da, on zapłaci każdym śmieciem. Z Waletem wyrzucaj i nie oglądaj się za siebie.

Postaw te dwa boty obok siebie. Ten sam Walet: przeciwko pierwszemu betujesz nim jak szalony, przeciwko drugiemu wyrzucasz go bez mrugnięcia. Ta sama karta, dwie przeciwne decyzje. Bo exploit nie celuje w kartę. Celuje w konkretny błąd konkretnego przeciwnika.


Trzy karty to cały zakres

W Leducu przeciwnik ma jedną z trzech rang. Zawsze. Możesz w głowie ogarnąć jego CAŁY możliwy zakres: Walet, Dama albo Król, i tyle.

I to jest dokładnie to myślenie, które w prawdziwym pokerze nazywa się graniem przeciwko zakresowi, a nie przeciwko "ręce, którą mu przypisałem". W No Limit Hold'em przeciwnik może mieć 1326 kombinacji kart startowych. Nikt nie widzi ich wszystkich naraz. Ale mechanizm jest ten sam co przy trzech: jego akcje odcinają kawałki zakresu, a ty grasz przeciwko temu, co zostało.

Leduc pozwala ci poczuć ten mechanizm w skali, w której mieści się on w pamięci operacyjnej. Bet drugiego gracza w rundzie 2, kiedy na stole leży Dama? Odetnij z jego zakresu to, czym by nie betował. To, co zostało, mówi ci, czy twój Król to jeszcze value, czy już tylko bluff-catcher.


Gra 3: równowaga, której nie wymyśliłem

Została ostatnia obietnica z tamtego wpisu: strategia, której nie da się pokonać. W RPS była banalna, równy mix 1/3. W Leducu nikt jej ręcznie nie wypisze: jest mieszana, zależy od karty, rundy i całej historii betów.

Więc jej nie wymyśliłem. Wytrenowałem ją.

Bot poniżej gra strategią z algorytmu CFR (Counterfactual Regret Minimization): program grał sam ze sobą setki tysięcy rozdań i po każdym korygował swoje częstotliwości tam, gdzie żałował decyzji. To ta sama rodzina metod, którą Uniwersytet Alberty rozwiązał heads-up limit hold'em (bot Cepheus, 2015). Solvery, których używasz do nauki, to kuzyni tego podejścia.

Uczciwość wymaga liczb, więc je zmierzyłem. Po treningu szukałem najlepszej możliwej kontry na tego bota: grając jako pierwszy, najlepsza znaleziona kontra traci ok. 0,08 chipa na rozdanie. Grając jako drugi, zarabia ok. 0,08. Suma wychodzi praktycznie zero, czyli bot siedzi w równowadze, a różnica między tymi liczbami to nie jego słabość.

To cena pozycji.

Zagraj z nim. Blefuj, nie blefuj, graj tight, graj agro. Patrz na wykres i poczuj różnicę: z dwoma poprzednimi botami linia szła w górę, jak tylko znalazłeś ich błąd. Tu nie ma czego znaleźć.

Podpowiedź w grze pokazuje metrykę treningu tego bota.


Tak wygląda GTO w Leducu

Grałeś z równowagą w ciemno. Czas ją zobaczyć. Poniżej masz chart jak z pokerowego trenera: realne frekwencje bota, z którym właśnie grałeś. Złoto to bet albo raise, niebieski to check albo call, szary to fold. Długość paska to częstotliwość.

Zanim zaczniesz scrollować, cztery rzeczy, których szukaj:

  • Walet otwiera betem 9% czasu. Najgorszą kartą w talii. To nie kaprys, to wbudowana kwota blefu: na tyle mała, że nie da się jej ukarać, na tyle realna, że nie możesz ignorować jego betów.
  • Drabinka po twoim checku: 28%, 85%, 100%. Tak często betuje kolejno z J, Q i K. Zauważ: z każdą kartą betuje CZASEM. Nie ma karty, która gra tylko jedną akcję w każdej sytuacji.
  • Para z Waletem na boardzie: check 100%. Najsilniejsza możliwa ręka w tym spocie, a równowaga czeka. Slow-play pod check-raise, policzony, nie wyczuty. Tego nie wymyślisz przy stole.
  • OOP vs IP na samym dole. Ta sama karta, ten sam moment gry, a w pozycji betujesz częściej: Walet 9% vs 28%, Król 77% vs 100%. Pod parami pasków zmierzona cena samej kolejności działania: ok. 0,16 chipa na rozdanie.

To jest sedno grania mieszanego, o które wszyscy pytają przy solverach. Frekwencja przy akcji nie znaczy "solver nie umiał się zdecydować". Znaczy: ta karta MUSI czasem robić jedno, a czasem drugie, w konkretnej proporcji, bo inaczej twój przeciwnik dostaje darmowy exploit.

Jedno zastrzeżenie, bo uczciwość: to jest równowaga wytrenowana lokalnie na moje potrzeby i jedna z możliwych. Gry tego typu mają wiele równowag; inny solver może wypluć inne liczby przy tym samym zerowym exploitability. Kierunki i mechanizmy zostają te same.


Czym różni się prawdziwy poker?

Skalą, nie naturą. 52 karty zamiast 6. Cztery ulice zamiast dwóch. Dowolne sizingi zamiast sztywnych 2 i 4. Drzewo decyzji rośnie do rozmiarów, w których nawet solver liczy przybliżenia, a my uczymy się przybliżeń tych przybliżeń.

Ale siły w grze pozostają te same trzy, które właśnie przećwiczyłeś. Blef, który zarabia na cudzym foldzie. Value, które zarabia na cudzym callu. I równowaga, która pilnuje proporcji między nimi, żebyś to ty exploitował, a nie ciebie.

Jak ktoś ci następnym razem powie, że "GTO to granie bez wyobraźni", pokaż mu bota numer jeden i spytaj, czemu przegrywa z Waletem. A jak powie, że "blef to sztuka czytania duszy", pokaż mu bota numer dwa.

Cały poker w sześciu kartach. Wszystkie trzy gry w jednym miejscu: pawel.life/tools/leduc.

Podobało się? To jest część serii o GTO bez bullshitu: kamień, papier, nożyceKuhn (3 karty) → Leduc. Daj znać, czy robić trzeci, przyciskiem na dole albo pisząc do mnie.

Paweł

← Wszystkie wpisy