ITV9070 2022

Code: ITV9070 Link: http://lambda.ee/wiki/Semantika_ja_anal%C3%BC%C3%BCtiline_filosoofia Title: Semantics and Analytical Philosophy Archive: year 2021 archive Lecturer: Tanel Tammet Contact: tanel.tammet@ttu.ee, 6203457, ICT 426 "A sign is anything that can be used to tell a lie." --Umberto Eco “I’m writing a book on magic,” I explain, and I’m asked, “Real magic?” By real magic people mean miracles, thaumaturgical acts, and supernatural powers. “No,” I answer: “Conjuring tricks, not real magic.” Real magic, in other words, refers to the magic that is not real, while the magic that is real, that can actually be done, is not real magic. --Lee Siegel

NB! Eksamitulemused

• 4. jaanuaril eksamit teinud tudeng: hinne 4.

• 11 jaanuari eksamijärgsed hinded perekonnanime esitähe järgi: K 5, S 1, V 5, M 5.

Eksamid

Eksamid teeme 2023 jaanuari eksamisessioonil koos IT sissejuhatuse eksamiga.

Eksamipäevi on kolm ja eksamid toimuvad igal päeval kell 11:00 ja 14:00 IT kolledzhi auditooriumis ICO-314. Eksamipäevad on:

• 4. jaanuar
• 11. jaanuar
• 18. jaanuar

Konkreetse päeva ja aja (kell 11 või 14) võid ise valida, aga soovitus on teha eksam 4 või 11 jaanuaril, siis saad vajadusel kasutada 18 jaanuarit nö järeleksamiks (või lihtsalt varuks). Eksamiks on aega kaks ja pool tundi.

17 novembri seminari iseõppe materjalid

17 novembril loenguruumis loengut ei olnud: selle asemel iseõppe materjalid on end-to-end-learning vs hybrid systems philosophy (kõike ei pea vaatama: niipalju, kui jõuad):

• Tanel talk on hybrid systems: summer school 2022
• Gary Marcus episode on Lex Fidman podcast (anti-end-to-end learning)
• Ilya Sutskever episode on on Lex Fidman podcast (pro-end-to-end learning)

ja väga soovitavalt lugeda vektorsemantikast:

• Vector Semantics and Embeddings chapter from Speech and Language Processing

Kell 12 on plaanis kolm ettekannet teamsis: siin link salvestusele

Time, place, credits

Credits: 6

• Thursdays odd weeks (starting 1. Sept, then 15, 29 Sept, 13 Oct, 27 Oct, 10 Nov, 24 Nov, 8 Dec etc):
  • starting from 15 Sept on Teams only.
• Thursdays even weeks: (starting 8. Sept, then 22 Sept, 6. Oct, 20 Oct, 3 Nov, 17 Nov, 1 Dec etc) on site (not Teams):
  • A lecture at 10:00-11:30 in the room ICO-217
  • A practice session at 12:00-13:30 in the room ICO-217

The contents of practice sessions are presentatins by students and their discussion. For all students, presence in the practice sessions is important and is accounted for in the final grade.

The course will finish with a written exam. The materials below marked with a red E will be critical for studying for the exam, while the materials marked with blue L are also used but less important. Materials without such marks will not be used for the exam questions.

In order to be allowed to take the exam, each student should give at least four presentations. Presentations are not graded, but when they are determined not to be satfisfactory, they should be re-done.

Some of the later lecture times will be used as additional practice sessions.

Initial course plan, materials and topics

We consider several topics, starting from general ones and moving to more specific.

The main goal of the lectures is to make it easier to understand the concepts and ideas in the topics, in order to better understand the reading materials..

Intro, semiotics, philosophy

• Esimese loengu salvestus: 1. september
• Teise loengu salvestus: 8. september
• Seminari salvestus: 8. september

• Source for the first round of presentations: Tähendus, tõde, meetod.. Separate original articles can be found by googling.

Main materials:

• Semiotics for beginners. first half is obligatory. E
• Quine: Two Dogmas of Empiricism. E
• what is analytic philosophy.
• analytic/synthetic. E
• logical positivism.
• Problem of universals nominalism/realism. L
• functionalism. E
• phenomenology.
• Propp.

Useful to read/listen:

• philosophy bites podcasts. Start with this strongly recommended episode.
• Sam Harris with David Chalmers
• L Philosophy of Metzinger: background reading Self models and look, for example: Metzinger video
• Tractatus andTractatus: structured full text. L. Wittgenstein. Read a bit, along with a commentary
• Philosophical investigations: read the first 100.A A small summary of early vs late Wittgenstein

About the alphabet:

• http://en.wikipedia.org/wiki/Egyptian_hieroglyphs
• http://en.wikipedia.org/wiki/Written_Chinese
• comparison ja wiki and unicode
• http://en.wikipedia.org/wiki/Phoenician_alphabet
• http://en.wikipedia.org/wiki/Egyptian_uniliteral_signs
• http://en.wikipedia.org/wiki/Cumae_alphabet

Notes on structuralism, deconstruction and friends:

• structuralism L, dekonstruktivism, dekonstrueerimise kiirõpetus, Derrida section, hermeneutics
• insheeption
• sympathetic magic: wiki, Frazer

Notes on Propp:

• fairytale generator
• narrateems
• pftml
• a selection of fairy tales with the pftml structure

Notes on the Vienna circle and logical positivism:

• Main ideas: "First, experience is the only source of knowledge; second, logical analysis performed with the help of symbolic logic is the preferred method for solving philosophical problems."
• taust: analüütiline/sünteetiline, apriori/aposteriori
• classical positivism as the background: more here
• a small lecture about the Vienna cicle
• Vienna circle: good short overview ja a longish paper from the Stanfordi encyclopedia of philosohy and Vienna circle manifesto
• Logical positivism: good overview
• wiki logical positivism

Evolution of brain, intelligence and society

Sociobiology, evolutionary psychology and memetics.

Recording of the lecture: 15 Sept

Main material:

• Evolution: intro lecture. L
• Sociobiology in wikipedia. E.
• Evolutionary psychology in wikipedia. E. You may also want to read more details in primer ja conceptual grounds
• Memetics in wikipedia. E
• Universal grammar L theory of Chomsky

Recommended overviews:

• wiki on the theories of origin of language
• overview of Chomsky theories of language evolution
• wiki on horizontal gene transfer

Recommended books:

• The Selfish Gene
• Guns, Germs and Steel
• Sapiens: A Brief History of Humankind
• Homo Deus: A Brief History of Tomorrow

Important papers:

• BRAIN EVOLUTION AND NEUROLINGUISTIC PRECONDITIONS L
• CO-EVOLUTION OF NEOCORTEX SIZE, GROUP SIZE AND LANGUAGE IN HUMANS L
• Precis of Origins of the Modern Mind: Three Stages in the Evolution of Culture and Cognition L
• DNA seen through the eyes of a coder
• Epigenetics vt ka seda artiklit

Additional notes and recommendations, not obligatory:

• natural language and natural selection
• Language as an Adaptation to the Cognitive Niche
• Faculty of Language: What Is It, Who Has It, and How Did It Evolve?
• Agner Fog: cultural selection
• Buss lab publications
• Changizi publications: vt allpool peatükk ARTICLES AND BOOKS ntx Economically organized hierarchies in WordNet and the Oxford English Dictionary, citybrain, colorface, xray vision
• the brain from 25000 feet
• John Eccles: Evolution of consciousness

Brain science

Sissejuhatava loengu materjal L

Sissejuhatava loengu salvestus teamsis: 29 sept.

For exam:

• https://en.wikipedia.org/wiki/Cognitive_neuroscience L
• https://en.wikibooks.org/wiki/Cognitive_Psychology_and_Cognitive_Neuroscience/Memory L
• https://en.wikipedia.org/wiki/Computational_theory_of_mind E

Good general overviews:

• background reading for further reading or listening about brain
• https://grey.colorado.edu/CompCogNeuro/index.php/CCNBook/Main
• https://en.wikibooks.org/wiki/Cognitive_Psychology_and_Cognitive_Neuroscience
• Neurons are Now More Complex than We Thought

Important podcasts:

• Brain Inspired: a podcast where neuroscience and AI converge. A somewhat newer and somewhat technical podcast. Also based on interviews, but with currently active top researchers about their current work.
• Brain science (see also the episodes page) : an old podcast series, still going strong. Basically interviews with important people in the field, many of them classics. Not very technical (mostly); recommended podcasts in BS, youtube lectures and background for these
• Some of the Lex Fridman podcast episodes are relevant, like Jeff Hawkins, Karl Friston, David Eagleman

General notes:

• https://en.wikipedia.org/wiki/Cognitive_neuroscience
• https://en.wikipedia.org/wiki/Computational_theory_of_mind
• https://en.wikipedia.org/wiki/Global_Workspace_Theory
• https://en.wikipedia.org/wiki/Grandmother_cell

Read also:

• nootropics
• phantom limbs

Infinity, logic and philosophy of mathematics

Esimeseks teemaks on sissejuhatus matemaatika filosoofiasse, eeskätt lõpmatuse ja lahendamatuse küsimused.

Alustuseks loe läbi eksamil kohustuslik sissejuhatav presentatsioon

• infinity, limits of computation and undecidability E
• ja paralleelselt samu teemasid toetav jutt, mille õppejõud kirjutas Gödeli teoreeme käsitleva raamatu järelsõnana.
• arvud, lõpmatus ja metafoorid
• Ordinaalid: loe alates ptk 6.2. Classifying the ordinals
• Russelli paradoks ja pikemalt wikipedias

Mõlemis videos on pead alaspidi:

• Sissejuhatava loengu salvestus: 6. oktoober
• Seminari salvestus: 6. oktoober

Lõpmatuse jätk ja lahenduvus:

• Salvestus teamsis, 13. oktoober

Kui lõpmatus/Cantori teoreem jäävad segaseks, siis on abiks lugeda cardinality wikipedias. Gödeli mittetäielikkuse kohta tasub veidi täiendavalt tutvuda Gödeli mittetäielikkuse teoreemide filosoofiliste järeldustega Stanfordi filosoofia-entsüklopeediast: see on osa pikemast mittetäielikkuse-artiklist, mille esimeses pooles räägitakse pikemalt kummastki Gödeli mittetäielikkuse teoreemist: veendu, et saad enamvähem aru, mida kumbki teoreem ütleb.

Seejärel loe läbi pikem jutt: matemaatika filosoofia Stanfordi filosoofia-entsüklopeediast.

Järgmisena on teemaks mitteklassikaliste loogikatega matemaatika filosoofia taustal:

• mitteklassikalised loogikad. Siin on pealeloetud jutuga variant: E downloadi ja vaata normaalses täisekraan-vaatamisreziimis, siis kuuled slaidide juures minu juttu. Täiendavalt võib lugeda SEP intuitsionislikku loogika peatükki, aga see on väga tehniline.
• modaalsed loogikad L ja vaata eelmise aasta teamsi salvestust samast loengust
• Eelmisele lisaks on soovitav vaadata kahte pooletunnist videot: modaalsete loogikate aksioomid ja kripke semantika ehk võimalikud maailmad. Filosoofia-spetsiifilisemaid aspekte sellest vaatleb suur sari (playlist) samalt autorilt, aga seda ei jõu tervikuna keegi vaadata. Päris soovitav on vaadata täiendavalt presentatsiooni, kus filosoofilisemaid aspekte on kenasti välja toodud. SEP-s on asjakohased modaalloogika-peatükk ja SEP filosoofia sinna juurde, aga kumbki on väga tehniline.

More on nonclassical logics:

• modaalsete loogikate ülevaade wikipedias
• Modaalse loogika filosoofilised põhiideed
• Intuitsionistliku loogika filosoofilised põhiideed L

Thinking and AI

Loengu videosalvestus.

Esiteks, tehisintellekti filosoofia põhiküsimused (väga lähedased funktsionalismi küsimustele).

Alustuseks palun kuula või vaata läbi

• Steven Pinkeri episood väga heast ja populaarsest ai podcastist.

Seejärel loe läbi wikiülevaated põhiküsimustest:

• http://en.wikipedia.org/wiki/Philosophy_of_artificial_intelligence L
• Functionalism E
• SEP artikkel AI-st: loe osaliselt, algus on veidi tüütu

Ja tehnilisemalt lisaks Graziano neuroteaduse-hüpoteesiga teadvuse osas:

• Graziano on consciousness and neuroscience

Eelpool igal pool viidatud/arutletud hiina toa kohta saab lugeda detailsemat argumentatsiooni ja vastuväiteid päris heast wikiartiklist:

• chinese room L

Järgmisena olulist lugemist ja kuulamist:

• Alustuseks Rodney Brooksi väike tehisintellekti-sari osa 1 L, osa 2 L, osa 3 L, osa 4 Lja veidi tasub lugeda ennustustest scorecard 2020

• Kuula Stuart Russell AI ohtudest ja vastupidi lugemiseks kindlasti miks mitte karta tehisintellekti

• Neurorehkenduste ja sümbolrehkenduste vaidluse teemal vaata Yoshua Bengio ja Gary Marcuse diskussiooni ja detailsemalt hübriididest Gary Marcuse episoodi AI podcastist ja vastupidi, õppimisest David Silveri episoodi Alphago, Alphazero jms teemadel.

• Praktilise AI ehitamise teemal kuula David Ferrucci ibm watsoni episoodi ja veel praktilisemalt protsessoritest Jim Kelleri episoodi "Moore’s Law, Microprocessors, Abstractions, and First Principles"

Täiendavalt kuula paari-kolme (ideaalis kõiki) järmistest suuremate klassikute episoodidest omal valikul:

• https://lexfridman.com/tomaso-poggio/
• https://lexfridman.com/richard-dawkins/
• https://lexfridman.com/noam-chomsky/
• https://lexfridman.com/nick-bostrom/
• https://lexfridman.com/jeff-hawkins/
• https://lexfridman.com/judea-pearl

Semantics of natural language

We will look into both

• Vector semantics
• Semantics based on world model

Details will be added when the block starts

Dialog, pragmatics, uncertain knowledge

Esimeseks teemaks on pragmaatika dialoogis. Siin on mitu omavahel seotud haru (vaata korra neile artiklitele peale, aga ära väga põhjalikult loe, kui sügavamat huvi ei teki):

• Speech acts L ehk laused, mis teevad midagi, mitte ei kanna ainult lihtsalt informatsiooni
• Implicature L mille põhiosa on Grice maksiimid, nende järgimine ja eiramine: ehk, mida loetakse välja dialoogi käigus
• Relevance theory ehk Grice maksiimide edasiarendused

Alustuseks kindlasti vaata/kuula hoopis neid lühiloenguid

• Jutu pragmaatika ja speech acts 11 minutit sissejuhatust kogu teemasse
• Grice's Maxims, Implicature, Presupposition: eriti tore 12 minutine detailsem loeng Grice maksiimide teemal
• Deceiving with words kui sa kursuse algul seda juba ei kuulanud, tee seda nüüd

Kui sul on huvi Grice originaali vaadata (ei ole kohustuslik), siis

• Logic and conversation: Grice originaal-põhiartikkel maksiimidest
• täiendavaid näiteid, mis põhjalikult analüüsitud

Kindlasti vaata seejärel läbi

• See ei ole enam kättesaadav, seega ei lähe eksamisse: presentatsioon kogu teemast E (loe aeglaselt) teatud fookusega automatiseerimisele
• Relevance theory ehk edasiarendus: 32 lehekülge selle alamvaldkonna põhiautoritelt, päris süvenemisega ei jõua
• Jurafsky & Martin chapter 26 Dialogue Systems and Chatbots praktiliste süsteemide peatükk nende silmapaistavast NLP õpikust: sirvi läbi ja vali ise kohad, mida süvenemisega lugeda.

Täiendavalt head vabatahtlikku kuulamist ja lugemist:

• NLP podcasti episood 89 dialoogsüsteemidest
• Implicature Calculation, Pragmatics or Syntax, or both: täpsem implikatuuri analüüs
• Implikatuur eksperimentidega
• Väga põhjalik jutt teatud fookusega automatiseerimisele
• Dialoogipragmaatika Stanfordi filosoofia-entsüklopeedias
• Implikatuur Stanfordi filosoofia-entsüklopeedias

Järgmine teema on ebakindlad teadmised ja tõenäosus: kuidas sellest aru saada, kirja panna ja järeldusi teha.

Sissejuhatus teemasse on ühine sama nädala materjalides teadmiste formaliseerimise kursuses.

Loengusalvestus: tõenäosused ja erandid

Loe hoolega detailset sissejuhatust teemasse: Numeric uncertainty (L järgneva esimese punkti suuniste järgi):

• Kindlasti loe kuni peatükini "Different ways to encode confidences in logic"ja vaata kiirelt peale kõigi viidatud wikilehtedele.
• Vaata lühidalt läbi järgmised peatükid ja süvene ainult siis, kui asi paistab huvi pakkuvat.

Seejärel loe algusotsad ja sirvi veidi edasi neid pikemaid Stanfordi filosoofia-entsüklopeedia artikleid:

• Interpretations of Probability
• Logic and Probability
• Probabilistic Causation

Loengus mainisin ka meie confidence ja eranditega-rehkendamise süsteemi ja näiteid.

Presentations

Schedule

• 8 sept:
  • Quine two dogmas of empiricism: Kalev
  • Theories of Vladimir Propp, see also this and this and this etc : Villem
  • Putnam: meaning and reference : Norman

• 22 sept:
  • Dennett Quining qualia: Bahdan
  • Frege function and concept: Andra
  • Chomsky keeleteooria põhipunktid (guugelda, vaata vikipeediast, vbl ka uuri omal valikul mõnda artiklit): Tiia
  • Presentatsioonide salvestused

• 6 okt:
  • Ramsey subjektiivne tõenäosusteooria: Kajar
  • Chalmers Hard problem of consciousness: Rene
  • Strawson: Meaning and Truth: Karmo
  • varuks: Bicameral mind (Kalev)

• 20 okt:
  • Overview of pragmatism as a philosophical school: main ideas, development etc: Karmo
  • Kalev: Bicameral mind (6 okt varuks)
  • Nick Boström "are we living in simulation": Villem

• 3 nov:
  • evolution of morals: Norman
  • Tiia: Bakterite suhtlus
  • Andra: mirror neurons
  • Presentatsioonide videosalvestus

• 10 nov teamsis:
  • Martin: The Hyperbolic Geometry of DMT Experiences: Symmetries, Sheets, and Saddled Scenes https://qualiacomputing.com/2016/12/12/the-hyperbolic-geometry-of-dmt-experiences/
  • Tiia: vektorsemantika peamiselt https://web.stanford.edu/~jurafsky/slp3/ ptk 6
  • Karmo: Grice dialog pragmatics

• 17 nov:
  • Kajar : Frame problem in AI. Suggestion: use wiki take, Dennett encyclopedia of philosophy take, Morgenstein.
  • Rene: Intuitsionistlik loogika: näited teoreemidest, mis kehtivad klassikaliselt, kuid mitte intuitsionistlikult. Näiteid tõestustest, millel lihtne klassikaline, kuid keeruline intuitsionistlik tõestus (otsi ntx ruutjuur kahe irratsionaalsuse ümber käivat)
  • Martin: kas AI areneb ohtlikuks

• 1 dets 2 blokki
  • Kalev : kas neuroteadlased suudaks mikrokontrollerist aru saada? Alustuseks sobib see artikkel, aga otsi juurde.
  • Norman: Research and give an overview of the state of the art in machine translation: top systems, their capacity and the main principles of how they work.
  • Martin: neuroimaging. Mida saab ja mida ei saa teha. (ei saanud ette kanda)

• • Karmo : Paul Grice: "meaning" and overview of other important parts of Grice claims and theory (NOT dialog pragmatics, which was covered before)
  • Kajar Confirmation bias, start with this article and search for more
  • Villem Brain Computation Is Organized via Power-of-Two-Based Permutation Logic https://www.frontiersin.org/articles/10.3389/fnsys.2016.00095/full (ei saanud ette kanda)

• 8 dets 1 blokk
  • Tiia: Expected utility hypothesis taustalt misasi on ja väidab Kahneman & Tversky Prospect theory
  • Andra: Eelmise jätkuna Kahnemani Thinking fast and slow konkreetselt System 1 ja System 2.
  • Martin Introduction: Perception Without Representation https://link.springer.com/article/10.1007/s11245-017-9460-1

• 15 dets 2 blokki, provisoorselt
  • Rene (2?): Verb physics https://arxiv.org/abs/1706.03799 https://uwnlp.github.io/verbphysics/
  • Kajar: Probabilistic worldbuilding https://direct.mit.edu/tacl/article/doi/10.1162/tacl_a_00463/110435/Towards-General-Natural-Language-Understanding
  • Andra: Ari Rappoport's theories of brain functioning https://www.cs.huji.ac.il/w~arir/R17-long.pdf https://www.cs.huji.ac.il/w~arir/R17-short.pdf
  • Norman: Hybrid system research example from FB+MIT+etc https://arxiv.org/pdf/2109.08544.pdf
  • Kalev: Hybrid system research example from Elemental cognition: https://ojs.aaai.org/index.php/AAAI/article/view/21333
  • Villem: 1 dets teema
  • Varuks: Martin: neuroimaging. Mida saab ja mida ei saa teha. (ei saanud ette kanda)

Some themes for selection

Ideas for the first rounds from this book (search originals from the web):

• Putnam: tähendus ja osutus. (Meaning and reference)
• Quine: empirismi kaks dogmat. (Two dogmas of empiricism)
• Dummett: Truth.
• Tarski: semantiline tõekontseptsioon.
• Strawson: tähendus ja tõde
• Ramsey subjektiivne tõenäosusteooria.

Further:

• Nick Boström "are we living in simulation". http://www.simulation-argument.com/ and http://www.nickbostrom.com/
• Paul Grice: "meaning" and overview of other important parts of Grice claims and theory.
• Evolution of morals. alusta siit ja otsi ise edasi.
• Frege: Frege tähendusest ja osutusest.
• Dennett: kvaalide kvainimine (quining qualia).
• Chomsky keeleteooria põhipunktid
• Mirror Neurons mh alustuseks brain science podcast 35 Mirror Neurons ja podcast 39 (Discusses the role of mirror neurons in imitation and language) pluss googelda veidi juurde.
• Frame problem in AI. Start with http://en.wikipedia.org/wiki/Frame_problem and continue to find additional materials and examples.
• How do bacteria and simple organisms communicate. Start with this TED lecture.
• infinity: cardinals and ordinals.
• Overview of pragmatism as a philosophical school: main ideas, development etc.
• example of a proof which is classically easy but intuitionistically hard: irrationality around square root of two.
• Anthropic principle and the Boltzmann brain.
• modal logics S4 ja S5 and possible worlds (Kripke semantics).
• neurons.
• Research and give an overview of the state of the art in machine translation: top systems, their capacity and the main principles of how they work.
• Statistical principles in machine translation a la Google
• Confirmation bias, start with this article
• How do bacteria and simple organisms communicate. Start with this TED lecture
• Evolution of morals. alusta siit
• How do bacteria and simple organisms communicate. Start with this TED lecture
• Frame problem in AI. Start with http://en.wikipedia.org/wiki/Frame_problem and continue to find additional materials and examples.
• Intuitsionistlik loogika: näited teoreemidest, mis kehtivad klassikaliselt, kuid mitte intuitsionistlikult. Näiteid tõestustest, millel lihtne klassikaline, kuid keeruline intuitsionistlik tõestus.
• Ordinaalid ja kardinaalid.
• Neuroimaging, auditory hallucinations, and the bicameral mind.pdf start here and download pdf
• Neurons are more complex than we thought, see here and here for starters.
• Could a Neuroscientist Understand a Microprocessor?
• The Hyperbolic Geometry of DMT Experiences and see this for some background.
• Perception Without Representation
• Brain Computation Is Organized via Power-of-Two-Based Permutation Logic