A következő címkéjű bejegyzések mutatása: kategóriaelmélet. Összes bejegyzés megjelenítése
A következő címkéjű bejegyzések mutatása: kategóriaelmélet. Összes bejegyzés megjelenítése

2013. február 8.

Neked a divat mondja meg

Peter Elias 1958-as IRE szekesztői írása, Two Famous Papers, remek humorérzékkel mutatja be, mennyire rá tudnak kattani a kutatók egy-egy új elméletre. Ez akkoriban épp az információelmélet volt, de Norvig hírhedt esszéje nyomán tudjuk, ez ma sincs másképp. Persze ne legyünk igazságtalanok, hisz tudjuk, Shannon neves tanulmányában is szerepelnek nyelvi példák. De az adatok tényleg az elméletek végét jelentik, ahogy az Chris Anderson gondolja?

Pókok, zene és kategóriaelmélet

Vegyünk először egy példát teljesen más területről. A pókháló régóta izgatja a tudósok fantáziáját, mivel rendkívül erős anyag. A pókot tekinthetjük egy függvénynek, ami proteineket képez le proteinkre (a bemenete a táplálék, a kimenete a pókháló). A mesterséges pókháló megalkotása során a TR cikke szerint (amit erősen ajánlok az olvasók figyelmébe) általában próba-hiba módszerre alakítják át a proteineket. Gondolom azért a kutatók intuíciója és a kísérleti adatok erősen behatárolják, hogy hol alakítanak a proteineken. Markus Buehler csapata más utat választott. A kategóriaelmélet keretében írja le a pókok működését (a "pók függvényt"). Így katak egy általános absztrakt nyelvet. Ezek után az eddigi megfigyelésekre alapozva kiválasztották a legígéretesebb struktúrákat, majd  arra kértek zenetudományi szakembereket, hogy komponáljanak melódiákat a meghatározott kategóriákra alapozva. Észrevették hogy bizonyos mintázatok erős, mások gyenge mesterséges pókhálóhoz vezetnek és az ezekhez kapcsolódó zenei mintázatokban is szisztematikus különbség fedezhető fel. A következő lépésben arra kérték a zenészeket, hogy az erős hálókra jellemző mintázatok felhasználásával írjanak variációkat. Az eljárástól azt remélik, hogy a művészek kreativitása sok kipróbálásra érdemes mintázatot generál, olyanokat is melyekre a mérnökök és a matematikusok nem is gondolnának. 

"Marginal Improvements"

Az adatok korában hihetetlen dolgok történnek, ez nem kétséges. De vegyük észre, nem történik minőségi változás a felhasznált elméletkben. Persze egyre több terület válik adatvezérelté és ott, ahol ez bekövetkezik ez forradalminak hat. De mennyire jó ma egy POS-tagger, egy NER rendszer? Minden paper min. 85%-os pontosságot ígér, de a 98-99% sem ritka - persze ipari alkalmazás közben gyakran kiderül hogy nem ennyire rózsás a helyzet.

 

A legtöbb fejlesztés ma nem más mint kaparás egy-két százalékért. Ezt nem szabad lebecsülni, az ilyen marginális fejlődések nagyon fontosak. Tim Harford Pop-Up Enconomics podcastjában nagyon szemléletesen mondja el miképp szerzett olimpiai aranyakat a UK-nek Matt Parker és csapata avval, hogy odafigyelt minden kis apróságra ami javíthatja a versenyzők eredményeit. (Kicsit bővebben erről a The Independent-en) De meddig vihető el az ilyen aprólékos munka?

 

Physics envy

A legtöbb tudomány nem tud elszakadni a fizikától. Az az igazi tudomány, ami összekapcsolja az elvont matematikát a való világgal - minden magára adó tudósnak követnie kell ezt az utat. Nincs is ezzel semmi baj, nem árt ha inspirálódunk máshonnét. A manapság divatos data science és úgy általában az adatfüggők azonban le vannak maradva, a mai fizikában nem annyira comme il faut amit ők csinálnak.

Lassan, de biztosan kifejlődőben van egy új irányzat, ami a kvantumfizika és a kategóriaelmélet fogalmi hálójával próbál megmagyarázni bizonyos jelenségeket. Őket még nem fenyegeti az Elias által kifigurázott túláltalánosítás veszélye (de ha sikerül átjutniuk a mainstream-be, akkor lefogadom ez is megtörténik) és rendkívüli kreativitás szabadítanak fel interdiszciplináris megközelítésükkel. A minőségi ugrást most tőlük várjuk.

2013. január 11.

Miért unom a disztribúciós szemantikát?

Itt vannak a nagy adatok, hát vizsgálhatjuk a disztribúciót orrvérzésig. Firth disztribúciós hipotézisével amúgy nincs baj, Wittgenstein is kacérkodott valami hasonlóval. A másik oldalon ott van a Frege-elve, avagy a kompozícionalitás. Persze szokták mondani hogy a formális szemantika nem más mint "exercise in typesetting". De valahol érezzük, hogy egyik elvvel sem mehetünk el a falig. További érdekesség, hogy nem mondanak egymásnak ellent, a disztribúció a szavakra vonatkozik, a kompozícionalitás pedig az összetett kifejezésekre.

Szerencsére vannak, akik ezt tovább gondolták. A Compositional and Distributional Models of Meaning néven futó kutatási program a University of Oxford vezetésével a kvantum-információelmélet és a kategóriaelmélet segítségével hozza közös nevezőre a két elvet. Amit tőlük érdemes olvasni és nézni:

A fentinél sokkal pragmatikusabb a Dominic Widdows nevével fémjelzett irányzat (elvégre a Bing egyik kutatójáról van szó). Geometry and Meaning c. könyvét már ajánlottuk a blogon, ezt ismét csak megerősítjük. Widdows megközelítése sem nélkülözi a kvantumfizikai hivatkozásokat, habár ő a kategóriaelméleti megközelítés helyett az ún. kvantumlogikát preferálja (Rédei Miklós tanulmányát ajánlom mindenkinek a témában). Li és Cunnigham tanulmánya pedig remek kis bevezetés a témához, de igazából Widdows honlapján lehet jó anyagokat találni. Aki módszeres bevezetésre vágyik, annak van Rijsenbergen könyvét ajánljuk.

A két irányzat közötti különbség első sorban az hogy az oxfordiak elméleti, Widdows pedig gyakorlati vonalon halad. Talán felesleges bűvészkedésnek tűnhet a kategóriaelmélet bevezetése, de ez a fizikában is megkönnyítette a formális elméletekkel történő foglalkozást. A csillagok különös együttállása, vagy a véletlen szeszélye folytán a funkcionális programozás felszálló ágban van és valahogy adja magát hogy az implementáció is ilyen nyelven történjen meg. Sajnos ez még nem valóság, Widdows semanticvectors csomagja Javaban íródott - igaz nem is implementál mindent az elméletekből. Az izgalmas dolgok mind a nyelvtechnológia, mind pedig a keresés terén itt fognak történni a következő években és reményeim szerint sokat fogunk funkcionális nyelveken implementálni.

2012. december 21.

Egy kis kategóriaelmélet

Egy ideje pár barátommal kategóriaelmélettel foglalkozunk hobbiból. Az elmúlt hetek során pár nagyon jó forrást ismertem meg, ezek úgy gondolom az olvasók számára sem haszontalanok.


Dominic Verity előadása remek áttekintést nyújt, különösen Haskell programozóknak ajánlom.

Ez a kötet egy igazi gyöngyszem! Kb józan paraszti ésszel és némi középiskolai matekkal felvértezve bárki elsajátíthatja belőle a kategóriaelmélet alapjait.

Awodey könyve ma a standard tankönyv filozófus és nyelvész körökben, de a matematikusok sem vetik meg. Talán kicsit túl sok a gyakorlati emberek számára, de ezt ellensúlyozza hogy olvasmányos (már amennyire egy kategóriaelmélet könyv az lehet).

Remek kis előadások a szakma legjobbjaitól! Bob Coecke Lambek vs Lambek előadása olvasóinknak kötelező :D


2012. december 12.

Kategóriaelmélet és jQuery

A kategóriaelméletet a közkedvelt meghatározás szerint "general abstract nonsense". Ez persze korántsem jelenti azt, hogy nem lehet gyakorlatias dolgokra használni eredményeit. Pl. John Bender egészen zseniálisan alkalmazta az ún. loop fusion technikát a jQuery-ben. De hogy kerül a csizma az asztalra? Bender working paper-je így foglalja össze:

The jQuery JavaScript library, used on more than 55% of Alexa’s top 10,000 websites makes the manipulation of HTML documents easy and intuitive through fluent method chaining and an intuitive API design. An unfortunate side effect of these user friendly features is that they often incur an otherwise unnecessary performance overhead. While JavaScript execution in desktop browsers has become fast enough to hide much of the problem, the growing complexity of HTML documents and the ubiquity of web enabled mobile devices continue to make performance an important concern when developing JavaScript applications. We address this issue by proposing a category theoretic view of the relationship between jQuery and the Document Object Model. From that view we derive a set of alterations to the jQuery library and demonstrate the performance benefits that result. Additionally we show how the second functor law suggests a set of JavaScript functions and jQuery methods that can be optimized using loop fusion.

 

Az alábbi videón teljesen érthető formában fejti ki vizsgálódásainak lényegét Bender. Érdemes a lejátszás előtt és után is elolvasni rövid posztját.