Iti0210lab6: erinevus redaktsioonide vahel

Allikas: Lambda
Mine navigeerimisribale Mine otsikasti
PriitJ (arutelu | kaastöö)
Resümee puudub
PriitJ (arutelu | kaastöö)
 
(ei näidata sama kasutaja 9 vahepealset redaktsiooni)
2. rida: 2. rida:


== Sissejuhatus ==
== Sissejuhatus ==
[[Image:Ifi0120lab6_alg.png|right|207px|algseis]]


"Karujaht" on arvatavasti Vana-Roomast pärit mäng, kus kolm jahimeest peavad karu "kinni püüdma" - suruma ta sellisesse seisu, kus karul enam ühtegi käiku ei ole. Nupud paiknevad mängulaua joonte ristumiskohtades, näiteks nagu pildil olevas algseisus. Käike teevad pooled kordamööda ja käiguks on ühe nupu liigutamine mööda joont järgmisesse ristumiskohta.
"Karujaht" on arvatavasti Vana-Roomast pärit mäng, kus kolm jahimeest peavad karu "kinni püüdma" - suruma ta sellisesse seisu, kus karul enam ühtegi käiku ei ole. Nupud paiknevad mängulaua joonte ristumiskohtades, näiteks nagu pildil olevas algseisus. Käike teevad pooled kordamööda ja käiguks on ühe nupu liigutamine mööda joont järgmisesse ristumiskohta.


Mängus ei ole karul võimalik võita, mängitakse selle peale, kas ja kui kiiresti ta kinni püütakse. Võimalik, et Vana-Roomas mängiti mängu raha peale, kihla veeti selle peale, kas karu suudab näiteks 40 käiku vastu pidada.
Mängus ei ole karul võimalik võita, mängitakse selle peale, kas ja kui kiiresti ta kinni püütakse. Võimalik, et Vana-Roomas mängiti raha peale, kihla veeti selle peale, kas karu suudab näiteks 40 käiku vastu pidada [http://mlwi.magix.net/bg/beargames.htm].


Teeme lihtsa programmi, mis seda mängu inimese vastu mängib. Seejuures on oluline, et programm kasutataks alpha-beta puuotsingut või mingit selle edasiarendust.
Teeme lihtsa programmi, mis seda mängu inimese vastu mängib. Seejuures on oluline, et programm kasutataks alpha-beta puuotsingut või mingit selle edasiarendust.


== Nõuded ==
== Nõuded ==
[[Image:Ifi0120lab6_not.png|right|207px|notatsioon]]


# Kasutajaliides on tekstipõhine
# Kasutajaliides on tekstipõhine
53. rida: 57. rida:
Elementaarse osa tegemisest ülesande kaitsmise juures piisab.
Elementaarse osa tegemisest ülesande kaitsmise juures piisab.


== Hästi mängimine ==
'''Mänguseisu sisemine esitus'''


Siin osas kirjeldatavaid tehnikaid võib katsetada vastavalt huvile ja motivatsioonile, kohustuslikud nad ei ole. Enamus tehnikaid on suhteliselt tüüpilised paljude lauamängude (ja sarnaste asjade) alpha-beta otsinguga tehtud lahenduste juures.
Mängulaud vastab struktuurilt graafile, seega oleks loogiline seda ka graafina esitada. Selleks on mitmeid võimalusi, lähtu sellest, mida mängimiseks vaja on: kiiresti leida, mis on mu käigud (või naaberväljad) kui ma asun näiteks väljal B4.


=== Korduvate seisude elimineerimine ===
Mänguseisu ennast peaks kõige lihtsam olema kirjeldada selle kaudu, kus karu ja jahimehed parajasti seisavad. Paljudes mängudes tehakse ka tabel, kust mänguvälja koordinaadi järgi saab leida selle sisu. Siin mängus on seda aga raske õigustada. Seega:
* kus on karu
* kus on jahimehed
* kelle käik on


Alpha-beta on sügavutiotsing ning tsüklid mängupuus genereerivad sinna lõputus koguses tippe. Karujahi puhul teame ka, et ükskõik milline kordus on alati karu jaoks kasulik. Seda võib ''minimax'' hinnangut arvutades isegi karu võiduks lugeda, kuna see on parim võimalik tulemus karu jaoks - kahe korduva seisu vahel pole jahimehed mitte midagi saavutanud.
'''Käikude ja seisude genereerimine'''


* jäta meelde kõik mängus reaalselt esinenud seisud ja seisude jada otsingupuu juurest käesoleva tipuni (s.t. kuidas otsing hetkel arvab, et mäng edasi läheks)
See kuulub iga mänguprogrammi juurde. Tavaliselt on käikude genereerimine ja käigu põhjal uue seisu tegemine kaks eraldi funktsiooni. Õpiku ''Figure 5.7'' pseudokoodis ''Actions()'' ja ''Result()''.
* katkesta otsing (s.t. tagasta seisu väärtus, mis on karu jaoks positiivne ja jahimeeste jaoks negatiivne), kohe, kui otsingu käigus esinev seis kordab mingit eelnevat seisu
* pane tähele, et sama nuppude konfiguratsioon on sama seis ainult siis, kui käigul on ka sama pool


=== Käikude järjestamine ===
'''Lõppseisu ära tundmine'''


Alpha-beta algoritm eeldab, et paremad käigud tehakse enne, kui halvemad. Üks lihtsamaid viise seda teha oleks otsida enne käike, mis viivad mänguvälja keskele. Karu eelistaks jääda keskele ning jahimehed peavad ka sinna liikuma, et karu äärele tõrjuda. Seega võime väga umbkaudu hinnata, et käigud keskmistele väljadele on paremad.
Siin mängus on lõppseis see, kus karu enam liikuda ei saa. Ehk siis, on karu kord, aga tal pole ühtegi käiku. Õpiku algoritmis vastab sellele kohale ''TerminalTest()'' funktsioon.


=== Transpositsioonitabel ===
'''Otsingu sügavuse piiramine'''


Eelnevad muudatused teevad meie otsingu teoreetilisest seisukohast väga palju efektiivsemaks. Praktikas peab ta aga ikkagi palju tühja tööd tegema, kuna meie karujahi mängus, nagu ka paljudes teistes mängudes, viivad sageli erinevad käikude järjestused samade seisudeni, seda nii samal kui ka teistel otsingusügavustel.
Otsingupuu on selles mängus lõpmatu, kuna nuppe saab lihtsalt edasi-tagasi nihutada. Esialgu tegeleme selle probleemiga nii, et piirame otsingu sügavuse ära (v.t. ''[AIMA]'' 5.4.2).


Väga lihtsustatult on transpositsioonitabel (TT) koht, kus on kirjas, mis mingi seisu otsinguga leitud väärtus on. Selle seisu uuesti kohtamisel pole enam vaja otsingut korrata, väärtus võetakse tabelist.
'''Seisu väärtus'''


Praktikas on asi natuke keerulisem. Alpha-beta efektiivsus põhineb sellel, et paljude seisude jaoks ei arvutata selle täpset väärtust vaid see, palju ta maksimaalselt või minimaalselt väärt on. Neid ei saa omavahel segamini ajada ega ka käsitleda täpse ''minimax'' väärtusena.
Tähistame võiduseisu väärtuse mingi suure numbriga<code>WIN</code>. Kõige primitiivsem seisuhinnang, mis täidaks nii õpiku ''Utility()'' kui ''Eval()'' funktsiooni ülesannet, oleks selline:
* kui programm on jahimees, ja karu on lõksus, siis +WIN
* kui programm on karu ja karu on lõksus, siis -WIN
* muidu 0.


Vaata [http://people.csail.mit.edu/plaat/mtdf.html#abmem siit] ühte viisi, kuidas TT väärtuseid käsitleda. Näiteks ''beta''-lõike puhul otsing katkestatakse ning teada on vaid, et väärtus on ''vähemalt'' see mis leiti. Nii pannaksegi see alampiirina kirja ja seda tohib ka järgmisel korral samas seisus ''beta''-lõike tekitamiseks kasutada.
[[Image:Ifi0120lab6_mini.png|right|207px|pisi]]


Sageli kontrollitakse ka, kui sügava otsinguga TT väärtus on leitud ning kasutatakse ainult neid, mille sügavus on sama suur või suurem, kui praeguse otsingu sügavus oleks ilma TT-ta.
Nüüd peaks mängu juba olema võimalik testida, eeldusel, et meil on tehtud sisend/väljund ning implementeeritud ülejäänud alpha-beta otsing standardsel kujul (kas õpikust, mingi muu eeskuju alusel või olemasolev <code>games.py</code> moodulist).


Koos eelnevate muudatustega peaks saavutatav otsingusügavus radikaalselt suurenema ning ulatuma vähemalt 20-40 käiguni.
Kasuta kõrval näidatud väikest mängulauda, et veenduda, et käikude tegemine, võidukäigu leidmine, jne toimiks. Tõnäoliselt on meil puudu veel üks vajalik element - nimelt on võimalik, et programm näeb korraga mitut käiku, mis võidule viivad. Kuna kõigi nende väärtus on sama (+WIN või -WIN), siis ei oska ta neil kuidagi vahet teha ning võib valida ühekäigulise võidu asemel käigu, mis karu minema päästab - ta näeb, et paari käigu pärast suudaks ta niikuinii võita.


=== Hinnangufunktsioon ===
Täiendame programmi veel ühe elemendiga - mida hiljem mängus võiduseis esineb, seda väiksem ta väärtus on. Näiteks kui käigu number on K, siis võiduseisu skoor on WIN-K. Karu poolt vaadates tuleb see (-1)-ga läbi korrutada. Nüüd peaks programm väikese mängulauaga hakkama saama. Kui ta ka suuremal hästi mängib, tore, aga kui mitte, pole ka midagi katki - antud mäng ei ole arvuti jaoks nii triviaalne kui näiteks trips-traps-trull.


Nüüd on otsing efektiivne, aga suudab eristada ainult võiduseise ja kordusi. See tähendab, et vahepealsed seisud tunduvad kõik ühesugustena, mida nad kindlasti tegelikult ei ole. Täpsem hinnangufunktsioon (''utility'', ''eval'') aitab mängu juhtida soodsas suunas.
== Paremini mängimine ==


Strateegiamängudes on tihti oluline tsentraalsus ja mobiilsus. See kehtib ka siin, vähemalt karu kohta. Lihtsa, aga suhteliselt hea hinnangufunktsiooni saame, kui anname jahimeestele plusspunkte, kui karu asub serval. Lisaks anname jahimeestele punkte, kui mõni jahimees paikneb karu kõrval - see piirab karu mobiilsust. Karu poolt mängides annavad samad asjad miinuspunkte.
[[Iti0120lab6lisa|Siin kirjeldatavaid tehnikaid]] võib katsetada vastavalt huvile ja motivatsioonile, kohustuslikud nad ei ole. Enamus tehnikaid on suhteliselt tüüpilised paljude lauamängude (ja sarnaste asjade) alpha-beta otsinguga tehtud lahenduste juures.


=== Peavariant ja iteratiivne sügavnemine ===
== <code>games.Game</code> klassi kasutamise näited ja vihjed ==


Iteratiivset sügavnemist (''iterative deepening'') kasutatakse mängudes paljudeks eesmärkideks, nagu aja haldamine, transpositsioonitabelite efektiivne kasutus jne. Meie puhul on temast aga kasu peavariandi (''principal variation'', PV) arvestamisel.
Esmalt tuleb teha oma mängu klass:


Nimelt on tavaline fikseeritud (näiteks 20 käiguni) sügavusega otsing strateegiliselt väga rumal. Kui sama eesmärgi võib saavutada kolme või 20 käiguga, et tee ta neil vahet ning võib juhuslikult eelistada pikemat varianti - kõik sõltub sellest, mis käik otsingus ettepoole satub. Selline "edasi lükkamine" võib ebasoodsal juhusel kesta lõpmatuseni. Sama efektiga tegelesime juba võiduseisu väärtuse arvutamise juures.
<pre>
import games


* alustame otsingut sügavusega 1
class BearGame(games.Game):                                                   
* jätame meelde, mis käik leiti ning liidame sügavusele 1
    def __init__(self):
* järgmisel sügavusel paigutame leitud käigu otsingujärjekorras esimeseks
        # algseis jne initsialiseerimine


Sellisel viisil otsides eelistab programm käiku, mis saavutab sama tulemuse varem: kui käik A ja B viivad mõlemad karu nurka surumiseni, aga A teeb seda 3 käigu ja B 20 käiguga, siis järjestades A ettepoole, jääb ta meie valitud käiguks, isegi kui maksimumsügavusel B sama väärtuse saavutab.
    def to_move(self, state):
        # otsusta, kuidas karu ja jahimeeste poolt tähistada ja tagasta, kumb pool käigul on
                                                                               
    def actions(self, state):
        # kõik seisus võimalikud käigud
                                                                               
    def result(self, state, action):
        # uus seis peale käigu tegemist


=== Teoreetiline keerukus ===
    def utility(self, state, side):
        # mis on seisu väärtus antud poole jaoks (ei võrdu alati
        #  sellega, kelle käik antud seisus on)
        # täidab ka eval() funktsiooni rolli


Arvuta välja, kui palju on meie ülesandes toodud mänguväljal erinevaid võimalikke seise. Kas on mõeldav, et teha tabel, kus iga seisu jaoks on kirjas, mis käik kõige soodsam on?
    def terminal_test(self, state):
        # siin peaks ära tundma, kas karu on lõksu aetud
</pre>


Kuna harjutuse eesmärk on alpha-beta otsinguga tutvumine, siis selliste tabelite genereerimise tehnikaid juhendis pole kirjeldatud :-)
<code>Game</code> klass sisaldab ka <code>play_game()</code> meetodit, millega saab mängu mängida. Käikude jne testimiseks võid proovida ka ilma otsinguta mängida:


== Ideed lahenduse jaoks ==
<pre>
bg = BearGame()


* kui esitad olekut ''tegemata'' käikude kaudu, siis muutub käikude genereerimine <code>actions()</code> meetodis lihtsamaks
bg.play_game(games.query_player,
* mängu saab mängida ka nii, kui pole märgitud, kes millise kriipsu tegi, seega visualiseerimist saab lihtsustada kui näitad mõlema mängija kriipse ühtemoodi
              games.random_player)
* Kui kasutad <code>games.Game</code> klassi, siis seal leiduv <code>play_game()</code> meetod sunnib mängijaid käike tegema kordamööda ja meie mängus see ei ole nii. Aga sellest saab teha oma versiooni, mis kontrolliks näiteks mängu olekust, kelle käik parajasti on.
</pre>
* kui su otsing on mingil põhjusel liiga aeglane, siis piira rekursiooni sügavus ära ning tagasta lõppseisu asemel mingi vahepealne hinnang seisule (vt [''AIMA''] 5.4). Sel juhul on oluline ka järgmine punkt.
* <code>utility()</code> funktsioon peaks vahet tegema, kas tegu on lõppseisuga või mitte. Lõppseisus võitmine on palju olulisem kui mingis vahepealses olekus hea skoori omamine.


== <code>games.Game</code> klassi kasutamise näited ja vihjed ==
Esimene parameeter on, kes karu poolt mängib (kuna nõuete järgi karu alustab), teine, kes mängib jahimehi. Näites olevad abifunktsioonid küsivad vastavalt käiku inimeselt või teevad juhusliku käigu. Kui parameetrid ära vahetad, saad teist poolt mängida.


Trips-traps-trull on <code>games</code> moodulis juba valmis tehtud ja kasutab ka <code>Game</code> klassi. Käima tõmmatakse mäng nii:
Otsingut kasutades tuleks kindlasti kohe ka sügavus ära piirata:


<pre>
<pre>
import games
def alphabeta_depth8(game, state):
    return games.alphabeta_cutoff_search(state, game, d=8)


ttt = games.TicTacToe()
bg.play_game(games.query_player,
ttt.play_game(games.query_player,
               alphabeta_depth8)
               games.alphabeta_player)
</pre>
</pre>

Viimane redaktsioon: 8. oktoober 2018, kell 09:25

Alpha-beta otsing

Sissejuhatus

algseis
algseis

"Karujaht" on arvatavasti Vana-Roomast pärit mäng, kus kolm jahimeest peavad karu "kinni püüdma" - suruma ta sellisesse seisu, kus karul enam ühtegi käiku ei ole. Nupud paiknevad mängulaua joonte ristumiskohtades, näiteks nagu pildil olevas algseisus. Käike teevad pooled kordamööda ja käiguks on ühe nupu liigutamine mööda joont järgmisesse ristumiskohta.

Mängus ei ole karul võimalik võita, mängitakse selle peale, kas ja kui kiiresti ta kinni püütakse. Võimalik, et Vana-Roomas mängiti raha peale, kihla veeti selle peale, kas karu suudab näiteks 40 käiku vastu pidada [1].

Teeme lihtsa programmi, mis seda mängu inimese vastu mängib. Seejuures on oluline, et programm kasutataks alpha-beta puuotsingut või mingit selle edasiarendust.

Nõuded

notatsioon
notatsioon
  1. Kasutajaliides on tekstipõhine
  2. Kasutame piltidel toodud algseisu ja mängulaua tähistust ("A1"..."E5"). Käiku tähistame näiteks B1-A1, mis tähendab et väljal B1 asuv nupp, olgu see siis jahimees või karu, liigub väljale A1.
  3. Algseisus on karu käik
  4. Programm kasutab alpha-beta algoritmi ja peaks oskama ükskõik kumba poolt mängida

Mängu mängimine võiks välja näha umbes nii:

...

current state:
To move: bear
Bear position: C3
Hunters are at: B1 C1 D1
available moves: [('C3', 'B3'), ('C3', 'D3'), ('C3', 'C2'), ('C3', 'C4')]


Your move? ('C3', 'B3')
current state:
To move: bear
Bear position: B3
Hunters are at: B1 C2 D1
available moves: [('B3', 'C3'), ('B3', 'B2'), ('B3', 'B4'), ('B3', 'A3')]


Your move? 

Programm näitab mänguseisu, küsib käiku, seejärel teeb oma käigu (või käigud) ja näitab jälle mänguseisu. See tsükkel kordub, kuni mäng läbi saab. Näites ei ole mänguseisu visualiseeritud ja see ei ole ka kohustuslik.

Lahenduse võimalikud variandid (vali üks):

  • aima-python paketi games moodul ja games.Game klass. See töötab üsna sarnaselt search.Problem klassiga ning samas moodulis on üsna palju vajalikku juba ära implementeeritud. Juhendi lõpus on mõned näited selle paketi kasutamisest.
  • Implementeeri ise [AIMA] õpiku Figure 5.7 toodud algoritm
  • Leia sobivad kooditükid või pseudokood Internetist.

Ükskõik millise variandi valid, pööra tähelepanu, et ülalpool toodud nõuded oleks täidetud. Ühelt poolt need lihtsustavad ülesannet, aga teiselt poolt kitsendavad - kusagilt üle võetud lahendus vajab ikkagi tõenäoliselt ümber tegemist ja kohandamist.

Elementaarsed asjad

Elementaarse osa tegemisest ülesande kaitsmise juures piisab.

Mänguseisu sisemine esitus

Mängulaud vastab struktuurilt graafile, seega oleks loogiline seda ka graafina esitada. Selleks on mitmeid võimalusi, lähtu sellest, mida mängimiseks vaja on: kiiresti leida, mis on mu käigud (või naaberväljad) kui ma asun näiteks väljal B4.

Mänguseisu ennast peaks kõige lihtsam olema kirjeldada selle kaudu, kus karu ja jahimehed parajasti seisavad. Paljudes mängudes tehakse ka tabel, kust mänguvälja koordinaadi järgi saab leida selle sisu. Siin mängus on seda aga raske õigustada. Seega:

  • kus on karu
  • kus on jahimehed
  • kelle käik on

Käikude ja seisude genereerimine

See kuulub iga mänguprogrammi juurde. Tavaliselt on käikude genereerimine ja käigu põhjal uue seisu tegemine kaks eraldi funktsiooni. Õpiku Figure 5.7 pseudokoodis Actions() ja Result().

Lõppseisu ära tundmine

Siin mängus on lõppseis see, kus karu enam liikuda ei saa. Ehk siis, on karu kord, aga tal pole ühtegi käiku. Õpiku algoritmis vastab sellele kohale TerminalTest() funktsioon.

Otsingu sügavuse piiramine

Otsingupuu on selles mängus lõpmatu, kuna nuppe saab lihtsalt edasi-tagasi nihutada. Esialgu tegeleme selle probleemiga nii, et piirame otsingu sügavuse ära (v.t. [AIMA] 5.4.2).

Seisu väärtus

Tähistame võiduseisu väärtuse mingi suure numbrigaWIN. Kõige primitiivsem seisuhinnang, mis täidaks nii õpiku Utility() kui Eval() funktsiooni ülesannet, oleks selline:

  • kui programm on jahimees, ja karu on lõksus, siis +WIN
  • kui programm on karu ja karu on lõksus, siis -WIN
  • muidu 0.

Nüüd peaks mängu juba olema võimalik testida, eeldusel, et meil on tehtud sisend/väljund ning implementeeritud ülejäänud alpha-beta otsing standardsel kujul (kas õpikust, mingi muu eeskuju alusel või olemasolev games.py moodulist).

Kasuta kõrval näidatud väikest mängulauda, et veenduda, et käikude tegemine, võidukäigu leidmine, jne toimiks. Tõnäoliselt on meil puudu veel üks vajalik element - nimelt on võimalik, et programm näeb korraga mitut käiku, mis võidule viivad. Kuna kõigi nende väärtus on sama (+WIN või -WIN), siis ei oska ta neil kuidagi vahet teha ning võib valida ühekäigulise võidu asemel käigu, mis karu minema päästab - ta näeb, et paari käigu pärast suudaks ta niikuinii võita.

Täiendame programmi veel ühe elemendiga - mida hiljem mängus võiduseis esineb, seda väiksem ta väärtus on. Näiteks kui käigu number on K, siis võiduseisu skoor on WIN-K. Karu poolt vaadates tuleb see (-1)-ga läbi korrutada. Nüüd peaks programm väikese mängulauaga hakkama saama. Kui ta ka suuremal hästi mängib, tore, aga kui mitte, pole ka midagi katki - antud mäng ei ole arvuti jaoks nii triviaalne kui näiteks trips-traps-trull.

Paremini mängimine

Siin kirjeldatavaid tehnikaid võib katsetada vastavalt huvile ja motivatsioonile, kohustuslikud nad ei ole. Enamus tehnikaid on suhteliselt tüüpilised paljude lauamängude (ja sarnaste asjade) alpha-beta otsinguga tehtud lahenduste juures.

games.Game klassi kasutamise näited ja vihjed

Esmalt tuleb teha oma mängu klass:

import games

class BearGame(games.Game):                                                     
    def __init__(self):
        # algseis jne initsialiseerimine

    def to_move(self, state):
        # otsusta, kuidas karu ja jahimeeste poolt tähistada ja tagasta, kumb pool käigul on
                                                                                
    def actions(self, state):
        # kõik seisus võimalikud käigud
                                                                                
    def result(self, state, action):
        # uus seis peale käigu tegemist

    def utility(self, state, side):
        # mis on seisu väärtus antud poole jaoks (ei võrdu alati
        #   sellega, kelle käik antud seisus on)
        # täidab ka eval() funktsiooni rolli

    def terminal_test(self, state):
        # siin peaks ära tundma, kas karu on lõksu aetud

Game klass sisaldab ka play_game() meetodit, millega saab mängu mängida. Käikude jne testimiseks võid proovida ka ilma otsinguta mängida:

bg = BearGame()

bg.play_game(games.query_player,
              games.random_player)

Esimene parameeter on, kes karu poolt mängib (kuna nõuete järgi karu alustab), teine, kes mängib jahimehi. Näites olevad abifunktsioonid küsivad vastavalt käiku inimeselt või teevad juhusliku käigu. Kui parameetrid ära vahetad, saad teist poolt mängida.

Otsingut kasutades tuleks kindlasti kohe ka sügavus ära piirata:

def alphabeta_depth8(game, state):
    return games.alphabeta_cutoff_search(state, game, d=8)

bg.play_game(games.query_player,
              alphabeta_depth8)