Az a megtiszteltetés ért, hogy a PhiLang 2013 szervezői elfogadták Compositional and Distributional Theories of Meaning című absztraktomat. A Precognox keretein belül igyekszünk a modern gépi tanulás és a szemantikus web technikáit ötvözni. Aki belekóstolt már ebbe, az tudja mennyire bonyolult is ez, hiszen két, már-már ellentétes elméleti keretben kell egyszerre gondolkodni az ilyen projektek során. Ahogyan már egy korábbi posztomban is kifejtettem, valahogy érezzük hogy ez nincs rendben és egyre többen fordulunk a Widdows és Coecke által lefektetett átfogó modellekhez. A PhiLang remek alkalom arra, hogy bemutassam miképp is gondoltam tovább ezt a kérdést és a téma szakértőitől kapjak visszajelzést. A közeljövőben az ezzel kapcsolatos gyakorlati eredmények bemutatására is törekedni fogok, amint elfogadható állapotba kerül a jelenlegi spagetti kód jellegű implementációm. A konferencia után egy rövid posztban természetesen közzé fogom tenni előadásom főbb pontjait, addig azonban nem szeretném ellőni a puskaporomat.
A következő címkéjű bejegyzések mutatása: szemantika. Összes bejegyzés megjelenítése
A következő címkéjű bejegyzések mutatása: szemantika. Összes bejegyzés megjelenítése
2013. február 3.
2013. január 11.
Miért unom a disztribúciós szemantikát?
Itt vannak a nagy adatok, hát vizsgálhatjuk a disztribúciót orrvérzésig. Firth disztribúciós hipotézisével amúgy nincs baj, Wittgenstein is kacérkodott valami hasonlóval. A másik oldalon ott van a Frege-elve, avagy a kompozícionalitás. Persze szokták mondani hogy a formális szemantika nem más mint "exercise in typesetting". De valahol érezzük, hogy egyik elvvel sem mehetünk el a falig. További érdekesség, hogy nem mondanak egymásnak ellent, a disztribúció a szavakra vonatkozik, a kompozícionalitás pedig az összetett kifejezésekre.
Szerencsére vannak, akik ezt tovább gondolták. A Compositional and Distributional Models of Meaning néven futó kutatási program a University of Oxford vezetésével a kvantum-információelmélet és a kategóriaelmélet segítségével hozza közös nevezőre a két elvet. Amit tőlük érdemes olvasni és nézni:
- Clark - Coecke - Sadrzadeh: A Compositional Distributional Model of Meaning
- Coecke - Sadrzadeh - Clark: Mathematical Foundations for a Compositional Distributional Model of Meaning
- Oxford Quantum Talks Archive (youtube csatorna)
A fentinél sokkal pragmatikusabb a Dominic Widdows nevével fémjelzett irányzat (elvégre a Bing egyik kutatójáról van szó). Geometry and Meaning c. könyvét már ajánlottuk a blogon, ezt ismét csak megerősítjük. Widdows megközelítése sem nélkülözi a kvantumfizikai hivatkozásokat, habár ő a kategóriaelméleti megközelítés helyett az ún. kvantumlogikát preferálja (Rédei Miklós tanulmányát ajánlom mindenkinek a témában). Li és Cunnigham tanulmánya pedig remek kis bevezetés a témához, de igazából Widdows honlapján lehet jó anyagokat találni. Aki módszeres bevezetésre vágyik, annak van Rijsenbergen könyvét ajánljuk.
A két irányzat közötti különbség első sorban az hogy az oxfordiak elméleti, Widdows pedig gyakorlati vonalon halad. Talán felesleges bűvészkedésnek tűnhet a kategóriaelmélet bevezetése, de ez a fizikában is megkönnyítette a formális elméletekkel történő foglalkozást. A csillagok különös együttállása, vagy a véletlen szeszélye folytán a funkcionális programozás felszálló ágban van és valahogy adja magát hogy az implementáció is ilyen nyelven történjen meg. Sajnos ez még nem valóság, Widdows semanticvectors csomagja Javaban íródott - igaz nem is implementál mindent az elméletekből. Az izgalmas dolgok mind a nyelvtechnológia, mind pedig a keresés terén itt fognak történni a következő években és reményeim szerint sokat fogunk funkcionális nyelveken implementálni.
2011. szeptember 14.
Nyelvfilozófia - amit tudni illik
Habár én személy szerint nagyon szeretem a filozófiát, Feyerabend nézetét osztom mely szerint nem a tudomány iránt érdeklődő filozófusokra, hanem a filozófiára nyitott tudósokra van inkább szükségünk. Ennek szellemében most a Nyelvfilozófia - a nemzeti minimum poszt után a neten ingyenesen elérhető szövegeket ajánlok; nem hosszú könyveket, hanem rövidebb írásokat melyek körvonalaznak bizonyos problémákat, jelzik hogy nem minden fekete vagy fehér és nem utolsó sorban így vagy úgy de megváltoztatták a világot.
2011. augusztus 10.
Nyelvi értelmező, házilag
r0ller vendégposztja
„A programok bemenetének általában van valamilyen szerkezete. Tulajdonképpen, minden program, amely valamilyen bemenetet vár, definiál egy saját nyelvet amelyen a bemenetet meg kell fogalmazni. A bemenet lehet akár olyan összetett mint egy programnyelv vagy egyszerű mint egy számsor.” Ahogyan az egyik legismertebb nyelvtani elemző, a Yacc rövid ismertetőjéből is kitűnik, az emberek többségének a problémája a számítógépeken futó programokkal az, hogy mindegyikhez meg kell tanulni azok sajátos nyelvét. Ahelyett azonban, hogy az emberek tanuljanak meg több tíz vagy akár száz programmal hatékonyan kommunikálni, az egyszerűbb feladatok esetén a számítógépet is felruházhatnánk az adott feladat megoldásához szükséges természetes nyelvi töredék megértésének képességével.
A fenti célkitűzés jelen szerző egy nemrég indult magánakciójának sajátja. A projekt az Alice nevet kapta és a githubon bárki tanulmányozhatja vagy akár kísérletezhet vele. A program jelenleg az alapvető fájlkezeléshez kapcsolódó szavakból összeállított szótár alapján megfogalmazott angol nyelvű utasításokat fogad el. Ilyenek például a ‘list all executable files in directory abc’ vagy a ‘delete all files’. A szótár jelenleg igen kicsi, legfőképp mert a projekt egyelőre még inkább csak egy megvalósíthatósági tanulmány, így nem a használhatóság kiterjesztése áll a középpontban. Az alábbiakban megpróbálom bemutatni, hogyan is lehet felépíteni egy ilyen természetes nyelvi értelmezőt, mind nyelvészeti mind technikai oldalról.
2010. május 10.
Logika mindenkinek III - a természetes nyelvek szemantikája
A bevezető könyvek bemutatása és az automata elmélet és kiszámíthatóság problémája után elérkezett az idő hogy egy kicsit gyakorlatibb terepre merészkedjünk. A természetes nyelvek szemantikája már gyakorlati terep, de még egy lépéssel a számítógépes alkalmazások előtt vagyunk, de innét már tényleg csak egy lépés. Ha nagyon türelmetlen vagy akkor régebbi blogbejegyzéseimből ajánlom neked a funkcionális programozásról ill. a logikai programozásról szólóakat.
A szemantika egy nagyon tág fogalom!
Volt már akit meglepett ez a kijelentés, de tényleg igaz. Nem, ebben nincs semmi ellentmondás! OK, jól tudod a szemantika a jelentés tudománya, tehát azzal foglalkozik miképp áll össze egy egy mondat, vagy akár szó vagy bármilyen kifejezés jelentése. Csak nem mindegy mit tekintesz alapnak és az sem hogy milyen elvek mentén kutatod a részek összekapcsolódását egésszé.
A logika alapfogalmait a természetes nyelveken keresztül vezeti minden tankönyv, de ha csak az implikációra gondolunk, érezzük hogy nincs teljes fedés a két fogalom között. Sokáig úgy gondolták hogy a filozófiai analízisen kívül nem is lehet fedésbe hozni logikai eszköztárunkat a nyelvvel - habár ez nem semmi, elég csak Frege Jelentés és jelöletére (és más esszéire) vagy Russel híres On denoting-jára gondolni.
És jött Montague
Aztán jött Montague, és minden megváltozott. A természetes és mesterséges nyelvek közötti éles választó vonalat a generatív elmélettől ihletve elvetette és arra gondolt hogy a szintaktikai struktúrával párhuzamosan jön létre a szemantikai interpretáció. Jól hangzik?! Nem kell félni, a legtöbb eddig említett könyvben találkozhatsz Montague módszerével, ha más nem intenzionális logikával. A filozófusok és logikusok persze örültek a megközelítésnek (vagy ízekre szedték), de a nyelvészek egy érdekes alfaja fogadta lelkesedéssel igazán. Egy kis idő elteltével egyesek odáig merészkedtek hogy nem egy egy mondat interpretálását akarták megadni, hanem egy-egy diskurzusét (ok igazából pár mondatét) és megszületett a diskurzus reprezentációs elmélet (DRT).
Mit olvass?
Mivel a dolog nagy részét már ismered, most csak egy rövid felsorolást adok, válasz magadnak egy, esetleg két könyvet a listáról. A lényeg hogy láss egy nyelvészeknek írt logikai bevezetőt, nyelvészek által végig gondolt példákkal.
Összegezve
Mostanában nem cool logikával foglalkozni és a szabály-alapú megközelítéssel sem gyakran találkozunk méjnstrímben, de
Rövid ajánlóm végére értem. Köszönöm hogy olvastatok :D Nagyon jól esett hogy kértétek a sorozatot és az is hogy infósok érdeklődtek. Mivel a blogot olyanoknak szánom akik egyedül vagy kevés segítséggel indulnak neki ennek a szép tudománynak, a későbbiekben is fogok még ilyen "könyvismertetőket" írni. Mivel személyes élmények alapján írok és azt hiszem a humán tudományok felől érkezők ezen a téren nagy nehézségekbe ütközhetnek, az ő szempontjukból közelítem meg a témáimat (és örülök hogy a reáliák tanulói is hasznosnak találják mindezt.)
A szemantika egy nagyon tág fogalom!
Volt már akit meglepett ez a kijelentés, de tényleg igaz. Nem, ebben nincs semmi ellentmondás! OK, jól tudod a szemantika a jelentés tudománya, tehát azzal foglalkozik miképp áll össze egy egy mondat, vagy akár szó vagy bármilyen kifejezés jelentése. Csak nem mindegy mit tekintesz alapnak és az sem hogy milyen elvek mentén kutatod a részek összekapcsolódását egésszé.
A logika alapfogalmait a természetes nyelveken keresztül vezeti minden tankönyv, de ha csak az implikációra gondolunk, érezzük hogy nincs teljes fedés a két fogalom között. Sokáig úgy gondolták hogy a filozófiai analízisen kívül nem is lehet fedésbe hozni logikai eszköztárunkat a nyelvvel - habár ez nem semmi, elég csak Frege Jelentés és jelöletére (és más esszéire) vagy Russel híres On denoting-jára gondolni.
És jött Montague
Aztán jött Montague, és minden megváltozott. A természetes és mesterséges nyelvek közötti éles választó vonalat a generatív elmélettől ihletve elvetette és arra gondolt hogy a szintaktikai struktúrával párhuzamosan jön létre a szemantikai interpretáció. Jól hangzik?! Nem kell félni, a legtöbb eddig említett könyvben találkozhatsz Montague módszerével, ha más nem intenzionális logikával. A filozófusok és logikusok persze örültek a megközelítésnek (vagy ízekre szedték), de a nyelvészek egy érdekes alfaja fogadta lelkesedéssel igazán. Egy kis idő elteltével egyesek odáig merészkedtek hogy nem egy egy mondat interpretálását akarták megadni, hanem egy-egy diskurzusét (ok igazából pár mondatét) és megszületett a diskurzus reprezentációs elmélet (DRT).
Mit olvass?
Mivel a dolog nagy részét már ismered, most csak egy rövid felsorolást adok, válasz magadnak egy, esetleg két könyvet a listáról. A lényeg hogy láss egy nyelvészeknek írt logikai bevezetőt, nyelvészek által végig gondolt példákkal.
- Chiercha et all: Meaning and Grammar
- Heim - Kratzer: Semantics in Generative Grammar
- Larson - Segal: Knowledge of Meaning
- Kamp - Reyle: From Discourse to Logic
- Dowty et all: Introduction to Montague Semantics
- Portner - Partee : Formal Semantics: The Essential Readings
Összegezve
Mostanában nem cool logikával foglalkozni és a szabály-alapú megközelítéssel sem gyakran találkozunk méjnstrímben, de
- a logikai megközelítés még él
- a hibrid modellek elterjedtek/visszatértek
- az algoritmusok megértéséhez jól jön a logika ismerete
- pedagógiai szempontból hasznos a programnyelvek elsajátítása előtt/közben logikát tanulni
Rövid ajánlóm végére értem. Köszönöm hogy olvastatok :D Nagyon jól esett hogy kértétek a sorozatot és az is hogy infósok érdeklődtek. Mivel a blogot olyanoknak szánom akik egyedül vagy kevés segítséggel indulnak neki ennek a szép tudománynak, a későbbiekben is fogok még ilyen "könyvismertetőket" írni. Mivel személyes élmények alapján írok és azt hiszem a humán tudományok felől érkezők ezen a téren nagy nehézségekbe ütközhetnek, az ő szempontjukból közelítem meg a témáimat (és örülök hogy a reáliák tanulói is hasznosnak találják mindezt.)
Feliratkozás:
Bejegyzések (Atom)