Toto je soubor v archivech Stanfordské encyklopedie filozofie. Citovat tento záznam | Přátelé PDF Náhled | InPho Search | PhilPapers Bibliography
Connectionism
První publikované Ne 18. května 1997; věcná revize Út 27.7.2010
Connectionism je hnutí v kognitivní vědě, které doufá, že vysvětlí lidské intelektuální schopnosti pomocí umělých neuronových sítí (také známý jako 'neuronové sítě' nebo 'neuronové sítě'). Neuronové sítě jsou zjednodušené modely mozku složené z velkého počtu jednotek (analogů neuronů) spolu s váhami, které měří sílu spojení mezi jednotkami. Tato závaží modelují účinky synapsí, které spojují jeden neuron s druhým. Experimenty na modelech tohoto druhu prokázaly schopnost naučit se takové dovednosti, jako je rozpoznávání obličeje, čtení a detekce jednoduché gramatické struktury.
Filozofové se začali zajímat o konekcionismus, protože slibují poskytnout alternativu ke klasické teorii mysli: široce zastávaný názor, že mysl je něco podobného digitálnímu počítači zpracovávajícímu symbolický jazyk. Přesně, jak a do jaké míry je konjunistická paradigma výzvou pro klasicismus, byla v posledních letech předmětem horké debaty.
1. Popis neuronových sítí
2. Učení a backpropagace neuronových sítí
3. Ukázky toho, co neuronové sítě mohou udělat
4. Silné a slabé stránky modelů neuronových sítí
5. Tvar diskuse mezi spojenci a klasicisty
6. Reprezentace reprezentantů
7. Debata o systematičnosti
8. Connectionism a sémantická podobnost
9. Spojenectví a eliminace lidové psychologie
Bibliografie
Další internetové zdroje
Související záznamy
1. Popis neuronových sítí
Neuronová síť sestává z velkého počtu jednotek spojených dohromady v rámci vzoru spojení. Jednotky v síti jsou obvykle rozděleny do tří tříd: vstupní jednotky, které přijímají informace ke zpracování, výstupní jednotky, kde jsou nalezeny výsledky zpracování, a jednotky mezi tzv. Skrytými jednotkami. Pokud by nervová síť měla modelovat celý lidský nervový systém, vstupní jednotky by byly analogické senzorickým neuronům, výstupním jednotkám motorických neuronů a skrytým jednotkám všech ostatních neuronů.
Zde je jednoduchá ilustrace jednoduché neuronové sítě:
síť
Každá vstupní jednotka má aktivační hodnotu, která představuje některé funkce mimo síť. Vstupní jednotka odešle svou aktivační hodnotu do každé ze skrytých jednotek, ke kterým je připojena. Každá z těchto skrytých jednotek vypočítává svou vlastní aktivační hodnotu v závislosti na aktivačních hodnotách, které obdrží od vstupních jednotek. Tento signál je pak předán do výstupních jednotek nebo do jiné vrstvy skrytých jednotek. Tyto skryté jednotky vypočítají své aktivační hodnoty stejným způsobem a posílají je svým sousedům. Nakonec se signál na vstupních jednotkách šíří celou sítí, aby se určily aktivační hodnoty na všech výstupních jednotkách.
Vzor aktivace vytvořený sítí je určen hmotností nebo silou spojení mezi jednotkami. Hmotnosti mohou být kladné i záporné. Záporná hmotnost představuje inhibici přijímací jednotky činností vysílající jednotky. Aktivační hodnota pro každou přijímací jednotku se vypočítá podle jednoduché aktivační funkce. Aktivační funkce se liší v detailu, ale všechny odpovídají stejnému základnímu plánu. Funkce sčítá příspěvky všech odesílajících jednotek, kde je příspěvek jednotky definován jako váha spojení mezi odesílajícími a přijímajícími jednotkami a aktivační hodnotou odesílající jednotky. Tato částka se obvykle dále upravuje, napříkladúpravou aktivační sumy na hodnotu mezi 0 a 1 a / nebo nastavením aktivace na nulu, pokud není dosaženo prahové úrovně pro součet. Spojenci předpokládají, že kognitivní fungování lze vysvětlit souborem jednotek, které takto fungují. Protože se předpokládá, že všechny jednotky počítají téměř stejnou jednoduchou aktivační funkci, musí lidské intelektuální úspěchy záviset především na nastavení hmotností mezi jednotkami.
Druh ilustrované výše se nazývá feed forward forward. Aktivace teče přímo ze vstupů do skrytých jednotek a poté do výstupních jednotek. Realističtější modely mozku zahrnují mnoho vrstev skrytých jednotek a opakující se spojení, která vysílají signály zpět z vyšších na nižší úrovně. Takový opakování je nezbytné pro vysvětlení takových kognitivních funkcí, jako je krátkodobá paměť. V krmné dopředné síti vytvářejí opakované prezentace stejného vstupu pokaždé stejný výstup, ale i ty nejjednodušší organismy si zvyknou (nebo se učí ignorovat) opakované prezentace stejného stimulu. Spojenci mají tendenci se vyhnout opakujícím se spojením, protože o obecném problému nácviku opakujících se sítí je málo známo. Elman (1991) a další však pokročili s jednoduchými opakujícími se sítěmi,kde je opakování pevně omezeno.
2. Učení a backpropagace neuronových sítí
Hledání správného souboru závaží pro splnění daného úkolu je ústředním cílem v connectistickém výzkumu. Naštěstí byly vyvinuty učební algoritmy, které dokážou vypočítat správné váhy pro provádění mnoha úkolů. (Pro přístupný přehled viz Hinton 1992.) Jeden z nejpoužívanějších těchto tréninkových metod se nazývá backpropagation. K použití této metody je potřeba tréninková sada skládající se z mnoha příkladů vstupů a jejich požadovaných výstupů pro daný úkol. Pokud je například úkolem odlišit muže od ženských tváří, může tréninková sada obsahovat obrázky tváří spolu s uvedením pohlaví osoby zobrazené v každé z nich. Síť, která se dokáže naučit tuto úlohu, může mít dvě výstupní jednotky (označující kategorie muž a žena) a mnoho vstupních jednotek, z nichž jedna je věnována jasu každého pixelu (malé oblasti) na obrázku. Hmotnosti sítě, která má být trénována, jsou zpočátku nastaveny na náhodné hodnoty a potom jsou členy tréninkové sady opakovaně vystaveny síti. Hodnoty pro vstup prvku jsou umístěny na vstupních jednotkách a výstup sítě je porovnán s požadovaným výstupem pro tento člen. Poté se všechny hmotnosti v síti upraví mírně ve směru, který by přiblížil výstupní hodnoty sítě k hodnotám pro požadovaný výkon. Například, když je mužská tvář představena vstupním jednotkám, hmotnosti se upraví tak, aby se hodnota mužské výstupní jednotky zvýšila a hodnota ženské výstupní jednotky se snížila. Po mnoha opakováních tohoto procesu se síť může naučit produkovat požadovaný výstup pro každý vstup v tréninkové sadě. Pokud trénink proběhne dobře,síť se také mnoho naučila zobecňovat na požadované chování pro vstupy a výstupy, které nebyly v tréninkové sadě. Například může dobře oddělovat muže od žen na obrázcích, které mu nikdy nebyly představeny.
Tréninkové sítě k modelování aspektů lidské inteligence je výtvarné umění. Úspěch s backpropagací a dalšími metodami spojovacího učení může záviset na velmi jemném přizpůsobení algoritmu a tréninkové sady. Trénink obvykle zahrnuje stovky tisíc kol nastavení hmotnosti. Vzhledem k omezením počítačů, které jsou v současné době k dispozici badatelům konektivity, může trénink sítě k provedení zajímavého úkolu trvat dny nebo dokonce týdny. Některé problémy mohou být vyřešeny, když jsou široce dostupné paralelní obvody určené speciálně pro provoz modelů neuronových sítí. Ale i zde budou některá omezení konektistických teorií učení stále čelit. Lidé (a mnoho méně inteligentních zvířat) vykazují schopnost poučit se z jednotlivých událostí;například zvíře, které jí jídlo, které později způsobuje žaludeční potíže, už nikdy toto jídlo nezkouší. Techniky spojovacího učení, jako je backpropagation, zdaleka nevysvětlují tento druh „jednorázového“učení.
3. Ukázky toho, co neuronové sítě mohou udělat
Spojenci dosáhli významného pokroku v demonstraci síly neuronových sítí zvládnout kognitivní úkoly. Zde jsou tři známé experimenty, které povzbudily spojence, aby věřili, že neuronové sítě jsou dobrými modely lidské inteligence. Jedním z nejatraktivnějších těchto snah je práce Sejnowského a Rosenberga z roku 1987 na síti, která umí číst anglický text s názvem NETtalk. Výcviková sada pro NETtalk byla velká databáze skládající se z anglického textu spojeného s odpovídajícím fonetickým výstupem, napsaného v kódu vhodném pro použití se syntetizátorem řeči. Pásky výkonu NETtalk v různých fázích jeho tréninku jsou velmi zajímavé. Nejprve je výstupem náhodný šum. Později síť zní, jako by byla blábolící,a později ještě, jako by mluvil anglicky double-talk (řeč, která je tvořena zvuky podobnými anglickým slovům). Na konci tréninku NETtalk dělá docela dobrou práci, když prohlásí text, který mu byl předán. Tato schopnost se navíc poměrně dobře zobecňuje na text, který nebyl uveden v tréninkové sadě.
Dalším vlivným raným konekcionistickým modelem byla síť vycvičená Rumelhartem a McClellandem (1986) k předpovídání minulého času anglických sloves. Úkol je zajímavý, protože ačkoli většina sloves v angličtině (běžná slovesa) tvoří minulý čas přidáním přípony „-ed“, mnoho z nejčastějších sloves je nepravidelných („is“/ „was“, „come“/ 'přišel', 'jít' / 'šel'). Síť byla nejprve vyškolena na sadě obsahující velké množství nepravidelných sloves, později na sadě 460 sloves obsahujících převážně regulars. Síť se naučila minulé časy 460 sloves v přibližně 200 kolech školení a docela dobře se zobecnila na slovesa, ne v tréninkové sadě. Ukázalo se také, že mezi nepravidelnými slovesami je dobře hodnoceno „zákonitost“(„poslat“/ „poslat“, „postavit“/ „postavit“; „vyhodit“/ „foukat“, „létat“/ „létat“). Během učeníprotože systém byl vystaven tréninkové sadě obsahující více pravidelných sloves, měl tendenci se nadměrně regulovat, tj. kombinovat nepravidelné i pravidelné formy: ('break' / 'broked', místo 'break' / 'breake'). Toto bylo opraveno s více tréninkem. Je zajímavé poznamenat, že je známo, že děti během výuky jazyků vykazují stejnou tendenci k nadměrné regulaci. Existuje však horká debata o tom, zda Rumelhart a McClelland's jsou dobrým modelem toho, jak se lidé skutečně učí a zpracovávají slovesná zakončení. Například Pinker & Prince (1988) poukazují na to, že model dělá špatnou práci zobecněním některých nových pravidelných sloves. Domnívají se, že se jedná o známku základního selhání v modelech spojitosti. Sítě mohou být dobré při vytváření asociací a srovnávacích vzorců,ale mají základní omezení při zvládnutí obecných pravidel, jako je formování pravidelného minulého času. Tyto stížnosti vyvolávají důležitý problém pro modeláře konektivity, konkrétně to, zda sítě mohou správně zobecnit, aby zvládly kognitivní úkoly zahrnující pravidla. Navzdory Pinkerovým a princovým námitkám je mnoho spojenců přesvědčeno, že zobecnění správného druhu je stále možné (Niklasson a van Gelder 1994).
Elmanova práce z roku 1991 o sítích, které dokáží ocenit gramatickou strukturu, má důležité důsledky pro debatu o tom, zda se neuronové sítě mohou naučit ovládat pravidla. Elman vyškolil jednoduchou opakující se síť, aby předpověděl další slovo ve velkém korpusu anglických vět. Věty byly vytvořeny z jednoduchého slovníku 23 slov pomocí podmnožiny anglické gramatiky. Gramatika, byť jednoduchá, představovala těžký test jazykové povědomí. To umožnilo neomezené vytváření relativních klauzí a zároveň vyžadovalo shodu mezi hlavním jmenným slovem a slovesem. Takže například ve větě
Jakýkoliv člověk, který se honí psů, kteří honí kočky … běh s.
singulární ‚ člověk ‘ musí souhlasit s slovesa ‚run s „navzdory zasahujícím množným jménům („ psi “,„ kočky “), které by mohly způsobit výběr„ běhu “. Jednou z důležitých vlastností Elmanova modelu je použití opakujících se spojení. Hodnoty na skrytých jednotkách jsou uloženy v sadě tzv. Kontextových jednotek, které mají být odeslány zpět na vstupní úroveň pro další kolo zpracování. Toto opakování zpět ze skrytých do vstupních vrstev poskytuje síti základní formu paměti posloupnosti slov ve vstupní větě. Elmanovy sítě ocenily gramatickou strukturu vět, které nebyly v tréninkové sadě. Příkaz syntaxe sítě byl měřen následujícím způsobem. Predikce dalšího slova anglickou větou je samozřejmě nemožný úkol. Tyto sítě však uspěly, alespoň následujícím opatřením. V daném okamžiku ve vstupní větěvýstupní jednotky pro slova, která jsou gramatickým pokračováním věty v tomto bodě, by měly být aktivní a výstupní jednotky pro všechna ostatní slova by měly být neaktivní. Po intenzivním tréninku byl Elman schopen vyrobit sítě, které vykazovaly perfektní výkon v tomto opatření, včetně vět, které nebyly v tréninkové sadě.
Přestože je tento výkon působivý, je stále ještě hodně daleko na tréninkových sítích, které dokážou zpracovat jazyk. Kromě toho byly vzneseny pochybnosti o významu Elmanových výsledků. Například, Marcus (1998, 2001) tvrdí, že Elmanovy sítě nejsou schopny zobecnit tento výkon na věty vytvořené z nového slovníku. To, jak tvrdí, je znakem toho, že modely konektistů pouze sdružují příklady a nejsou schopny skutečně ovládat abstraktní pravidla. Na druhé straně Phillips (2002) tvrdí, že klasické architektury nejsou v tomto ohledu o nic lepší. Údajná neschopnost konekcionistických modelů zobecňovat výkon tímto způsobem se stala důležitým tématem diskuse o systematičnosti. (Viz oddíl 7 níže.)
Trochu odlišné znepokojení ohledně přiměřenosti konektivistického zpracování jazyka se zaměřuje na úkoly, které napodobují kojenecké učení jednoduchých umělých gramatik. Údaje o reakční době potvrzují, že kojenci se mohou naučit odlišit dobře tvarované a špatně tvarované věty v novém jazyce vytvořeném experimentátory. Shultz a Bale (2001) hlásí úspěch ve výcviku neuronových sítí na stejný úkol. Vilcu a Hadley (2005) namítají, že tato práce neprokazuje skutečné získání gramatiky, ale podrobnou odpověď viz Shultz a Bale (2006).
4. Silné a slabé stránky modelů neuronových sítí
Filozofové se zajímají o neuronové sítě, protože mohou poskytnout nový rámec pro pochopení podstaty mysli a jejího vztahu k mozku (Rumelhart a McClelland 1986, kapitola 1). Conneististické modely se zdají být obzvláště dobře sladěny s tím, co víme o neurologii. Mozek je skutečně nervová síť tvořená z masivně mnoha jednotek (neuronů) a jejich spojení (synapsí). Kromě toho několik vlastností modelů neuronových sítí naznačuje, že konekcionismus může nabídnout obzvláště věrný obraz o povaze kognitivního zpracování. Neuronové sítě vykazují robustní flexibilitu tváří v tvář výzvám, které představuje skutečný svět. Hlučný vstup nebo ničení jednotek způsobuje půvabné zhoršení funkce. Odpověď sítě je stále přiměřená, i když poněkud méně přesná. V porovnání,hluk a ztráta obvodů v klasických počítačích obvykle způsobují katastrofické selhání. Neuronové sítě jsou také zvláště dobře přizpůsobeny problémům, které vyžadují paralelní řešení mnoha protichůdných omezení. Z výzkumu v oblasti umělé inteligence existuje dostatek důkazů, že kognitivní úkoly, jako je rozpoznávání objektů, plánování a dokonce koordinovaný pohyb, představují takové problémy. Ačkoli klasické systémy jsou schopny vyhovět více omezením, spojovníci tvrdí, že modely neuronových sítí poskytují mnohem přirozenější mechanismy pro řešení takových problémů. Z výzkumu v oblasti umělé inteligence existuje dostatek důkazů, že kognitivní úkoly, jako je rozpoznávání objektů, plánování a dokonce koordinovaný pohyb, představují takové problémy. Ačkoli klasické systémy jsou schopny vyhovět více omezením, spojovníci tvrdí, že modely neuronových sítí poskytují mnohem přirozenější mechanismy pro řešení takových problémů. Z výzkumu v oblasti umělé inteligence existuje dostatek důkazů, že kognitivní úkoly, jako je rozpoznávání objektů, plánování a dokonce koordinovaný pohyb, představují takové problémy. Ačkoli klasické systémy jsou schopny vyhovět více omezením, spojovníci tvrdí, že modely neuronových sítí poskytují mnohem přirozenější mechanismy pro řešení takových problémů.
V průběhu staletí se filozofové snažili pochopit, jak jsou naše pojmy definovány. Nyní se všeobecně uznává, že snaha charakterizovat obyčejné představy s nezbytnými a dostatečnými podmínkami je odsouzena k neúspěchu. Výjimky z téměř jakékoli navrhované definice vždy v křídlech čekají. Například, jeden by mohl navrhnout, že tygr je velká černá a oranžová kočkovitá šelma. Ale co albino tygři? Filozofové a kognitivní psychologové argumentují, že kategorie jsou ohraničeny flexibilnějším způsobem, například prostřednictvím pojmu rodinné podobnosti nebo podobnosti s prototypem. Propojistické modely se zdají být zvláště vhodné pro přizpůsobení odstupňovaných představ o členství v kategorii tohoto druhu. Sítě se mohou naučit oceňovat jemné statistické vzorce, které by bylo velmi obtížné vyjádřit jako tvrdá a rychlá pravidla. Connectionism slibuje vysvětlit flexibilitu a vhled nalezený v lidské inteligenci pomocí metod, které nemohou být snadno vyjádřeny ve formě principů bez výjimek (Horgan a Tienson 1989, 1990), čímž se zabrání křehkosti, která vyplývá ze standardních forem symbolického znázornění.
Navzdory těmto zajímavým rysům existují v konekcionistických modelech některé slabiny, o nichž je zmínka. Zaprvé, většina neuronových výzkumů sítí abstrahuje od mnoha zajímavých a možná důležitých rysů mozku. Například spojovníci se obvykle nesnaží explicitně modelovat rozmanitost různých druhů mozkových neuronů, ani účinky neurotransmiterů a hormonů. Kromě toho není ani zdaleka jasné, že mozek obsahuje druh zpětných spojení, která by byla nutná, pokud by se mozek měl učit procesem, jako je backpropagation, a obrovské množství opakování potřebných pro takové tréninkové metody se zdá být zdaleka realistické. Pozornost na tyto záležitosti bude pravděpodobně nezbytná, pokud mají být konstruovány přesvědčivé konekcionistické modely lidského kognitivního zpracování. Rovněž je třeba vyhovět vážnějším námitkám. To je široce cítil, obzvláště mezi klasicisty, že neuronové sítě nejsou zvláště dobré v druhu zpracování založeného na pravidlech, které je považováno za podmanivý jazyk, uvažování a vyšší formy myšlení. (Dobře známá kritika tohoto druhu viz Pinker a Princ 1988.) Budeme o této záležitosti dále diskutovat, když se obrátíme na debatu o systematičnosti.
5. Tvar diskuse mezi spojenci a klasicisty
Posledních čtyřicet let bylo ovládáno klasickým názorem, že (alespoň vyšší) lidské poznání je analogické symbolickému výpočtu v digitálních počítačích. Na klasickém účtu jsou informace reprezentovány řetězci symbolů, stejně jako reprezentujeme data v počítačové paměti nebo na kusech papíru. Konektorista naopak tvrdí, že informace jsou uloženy ne symbolicky v hmotnosti nebo síle spojení mezi jednotkami neurální sítě. Klasicista se domnívá, že poznání se podobá digitálnímu zpracování, kde se řetězce vyrábějí postupně podle pokynů (symbolického) programu. Conneistista vnímá mentální zpracování jako dynamický a odstupňovaný vývoj aktivity v nervové síti, aktivace každé jednotky v závislosti na síle spojení a aktivitě jejích sousedů,podle aktivační funkce.
Na první pohled se tyto názory zdají velmi odlišné. Mnoho spojenců však svou práci nepovažuje za výzvu klasicismu a někteří zjevně podporují klasický obraz. Takzvaní implementační spojenci hledají přizpůsobení mezi dvěma paradigmaty. Tvrdí, že mozková síť implementuje symbolický procesor. Pravda, mysl je nervová síť; ale je to také symbolický procesor na vyšší a abstraktnější úrovni popisu. Úlohou pro konektivistický výzkum podle implementacionistu je tedy zjistit, jak lze stroje potřebné pro symbolické zpracování kovat z materiálů neuronové sítě, takže klasické zpracování lze redukovat na účet neuronové sítě.
Mnoho spojenců však odporuje implementačnímu pohledu. Takoví radikální spojenci tvrdí, že symbolické zpracování bylo špatným odhadem toho, jak mysl funguje. Stěžují si, že klasická teorie dělá špatnou práci, když vysvětluje půvabnou degradaci funkce, holistické znázornění dat, spontánní generalizaci, zhodnocení kontextu a mnoho dalších prvků lidské inteligence, které jsou zachyceny v jejich modelech. Neschopnost klasického programování přizpůsobit flexibilitu a efektivitu lidského poznání je podle jejich světel příznakem potřeby nového paradigmatu kognitivní vědy. Radikální spojenci by navždy vyloučili symbolické zpracování z kognitivní vědy.
6. Reprezentace reprezentantů
Connectionist modely poskytují nové paradigma pro pochopení toho, jak by mohla být informace reprezentována v mozku. Svůdná, ale naivní myšlenka je, že jednotlivé neurony (nebo malé nervové svazky) by mohly být věnovány reprezentaci každé věci, kterou mozek potřebuje zaznamenat. Můžeme si například představit, že existuje babička neuron, která vystřelí, když přemýšlíme o naší babičce. Takové místní zastoupení však není pravděpodobné. Existují dobré důkazy o tom, že naše myšlenka babičky zahrnuje složité vzorce činnosti distribuované v relativně velkých částech kůry.
Je zajímavé poznamenat, že distribuované, spíše než lokální reprezentace na skrytých jednotkách, jsou přirozenými produkty metod tréninku konektistů. Příkladem jsou vzory aktivace, které se objevují na skrytých jednotkách, zatímco text NETtalk zpracovává text. Analýza odhaluje, že síť se naučila reprezentovat takové kategorie jako souhlásky a samohlásky, nikoli vytvořením jedné jednotky aktivní pro souhlásky a jiné pro samohlásky, ale spíše ve vývoji dvou různých charakteristických vzorců aktivity napříč všemi skrytými jednotkami.
Vzhledem k očekáváním vyplývajícím z našich zkušeností s místním zastoupením na tištěné stránce se zdá, že distribuovaná reprezentace je nová a obtížně pochopitelná. Tato technika však vykazuje důležité výhody. Například distribuované reprezentace (na rozdíl od symbolů uložených v samostatných místech pevné paměti) zůstávají relativně dobře zachovány, když jsou části modelu zničeny nebo přetíženy. Ještě důležitější je, že protože reprezentace jsou kódovány spíše než vypouštění jednotlivých jednotek, vztahy mezi reprezentacemi jsou kódovány v podobnostech a rozdílech mezi těmito vzory. Takže vnitřní vlastnosti reprezentace nesou informaci o čem to je (Clark 1993, 19). Naproti tomu místní zastoupení je obvyklé. Žádné vnitřní vlastnosti reprezentace (jednotka 's palbou) určují jeho vztahy k ostatním symbolům. Tato funkce self-reporting distribuovaných reprezentací slibuje vyřešit filozofický hlavolam o smyslu. V symbolickém reprezentačním schématu jsou všechny reprezentace složeny ze symbolických atomů (jako slova v jazyce). Význam složitých řetězců symbolů může být definován způsobem, jakým jsou vytvořeny ze svých složek, ale co určuje význam atomů?ale co určuje význam atomů?ale co určuje význam atomů?
Propojistická reprezentační schémata poskytují konec běhu kolem skládačky pouhým uvolněním atomů. Každá distribuovaná reprezentace je vzorem činnosti napříč všemi jednotkami, takže neexistuje principiální způsob, jak rozlišovat mezi jednoduchými a složitými reprezentacemi. Pro jistotu jsou reprezentace složeny z činnosti jednotlivých jednotek. Ale žádný z těchto 'atomových' kódů pro žádný symbol. Reprezentace jsou sub-symbolické v tom smyslu, že analýza jejich složek opouští symbolickou úroveň.
Sub-symbolická povaha distribuované reprezentace poskytuje nový způsob, jak představit zpracování informací v mozku. Pokud modelujeme aktivitu každého neuronu s číslem, pak činnost celého mozku může být dána obrovským vektorem (nebo seznamem) čísel, jedním pro každý neuron. Jak mozkový vstup ze senzorických systémů, tak jeho výstup do jednotlivých svalových neuronů lze také považovat za vektory stejného druhu. Mozek se tedy rovná vektorovému procesoru a psychologický problém se promění v otázky o tom, které operace s vektory odpovídají různým aspektům lidského poznání.
Sub-symbolická reprezentace má zajímavé důsledky pro klasickou hypotézu, že mozek musí obsahovat symbolické reprezentace, které jsou podobné větám jazyka. Tato myšlenka, často označovaná jako myšlenková (nebo LOT) práce, může být zpochybněna povahou konekcionistických reprezentací. Není snadné přesně říci, k čemu LOT teze patří, ale van Gelder (1990) nabízí vlivný a široce uznávaný benchmark pro určení, kdy by měl mozek říkat, že obsahuje věty podobné reprezentace. Je to tak, že když je reprezentace tokenovaná, tak tokenuje komponenty této reprezentace. Například, když napíšu „John miluje Marii“, napsal jsem tedy složky věty: „John“„miluje“a „Mary“. Distribuované reprezentace složitých výrazů, jako je „John miluje Marii“, lze vytvořit tak, aby neobsahovaly žádné explicitní znázornění jejich částí (Smolensky 1991). Informace o složkách lze získat z reprezentací, ale modely neuronových sítí nemusí tyto informace explicitně extrahovat, aby je mohly správně zpracovat (Chalmers 1990). To naznačuje, že modely neuronových sítí slouží jako protiklady k myšlence, že jazyk myšlení je předpokladem pro lidské poznání. Tato záležitost je však stále předmětem živé debaty (Fodor 1997).ale modely neuronových sítí nemusí tyto informace explicitně extrahovat, aby je mohly správně zpracovat (Chalmers 1990). To naznačuje, že modely neuronových sítí slouží jako protiklady k myšlence, že jazyk myšlení je předpokladem pro lidské poznání. Tato záležitost je však stále předmětem živé debaty (Fodor 1997).ale modely neuronových sítí nemusí tyto informace explicitně extrahovat, aby je mohly správně zpracovat (Chalmers 1990). To naznačuje, že modely neuronových sítí slouží jako protiklady k myšlence, že jazyk myšlení je předpokladem pro lidské poznání. Tato záležitost je však stále předmětem živé debaty (Fodor 1997).
Novinka distribuovaného a superponovaného ukládání informací o spojistech způsobuje, že člověk může přemýšlet o životaschopnosti klasických pojmů symbolického výpočtu při popisu mozku. Ramsey (1997) tvrdí, že ačkoli můžeme neuronovým sítím připisovat symbolické reprezentace, tato přiřazení se neobjevují v legitimních vysvětleních chování modelu. Toto tvrzení je důležité, protože klasický popis kognitivního zpracování (a lidové intuice) předpokládá, že reprezentace hrají vysvětlující roli při porozumění mysli. Obecně se předpokládá, že kognitivní věda ve své podstatě vyžaduje vysvětlení, která apelují na reprezentace (Von Eckardt 2003). Pokud má Ramsey pravdu, bod se může řezat dvěma různými způsoby. Někteří ho mohou použít k argumentaci za nové a neklasické porozumění mysli,zatímco jiní by použili to argumentovat, že connectismism je nedostatečný, protože to nemůže vysvětlit co to musí. Haybron (2000) nicméně argumentuje proti Ramseyovi, že existuje prostor pro reprezentace s vysvětlující úlohou v radikálních konektistických architekturách. Roth (2005) uvádí zajímavý fakt, že na rozdíl od prvních dojmů může mít také smysl vysvětlit chování sítě odkazem na počítačový program, i když neexistuje způsob, jak v průběhu času rozlišit posloupnost kroků výpočtu.to může také dávat dokonalý smysl vysvětlit chování sítě odkazem na počítačový program, i když neexistuje způsob, jak rozlišit posloupnost kroků výpočtu v čase.to může také dávat dokonalý smysl vysvětlit chování sítě odkazem na počítačový program, i když neexistuje způsob, jak rozlišit posloupnost kroků výpočtu v čase.
Debata týkající se přítomnosti klasických reprezentací a jazyka myšlení byla zakalena nejasností při definování toho, co by se mělo v distribuovaných nervových modelech počítat jako reprezentativní „vozidla“. Shea (2007) upozorňuje na to, že individualizace distribuovaných reprezentací by měla být definována způsobem, jakým jsou aktivační vzorce na clusteru skrytých jednotek dohromady. Jsou to vztahy mezi klastrovými regiony v prostoru možných aktivačních vzorců, které nesou reprezentativní obsah, nikoli samotné aktivace, ani soubor jednotek zodpovědných za aktivaci. Po tomto porozumění se vylepší vyhlídky na vyhledání reprezentativního obsahu v neuronových sítích, které lze porovnat v sítích různých architektur, které jsou kauzálně zapojeny do zpracování,a který překonává některé námitky proti holistickým popisům významu.
V sérii článků Horgan a Tienson (1989, 1990) prosazovali názor zvaný reprezentace bez pravidel. Podle tohoto názoru mají klasicisté pravdu, že lidské mozky (a jejich dobré konekcionistické modely) obsahují vysvětlitelně robustní reprezentace; ale mýlí se, když si myslí, že tyto reprezentace vstupují do tvrdých a rychlých pravidel, jako jsou kroky počítačového programu. Myšlenka, že spojistické systémy mohou dodržovat odstupňované nebo přibližné zákonitosti („měkké zákony“, jak je nazývají Horgan a Tienson), je intuitivní a přitažlivá. Aizawa (1994) však tvrdí, že vzhledem k libovolné neuronové síti s popisem úrovně reprezentace je vždy možné vybavit ji tvrdými a rychlými pravidly na úrovni reprezentace. Guarini (2001) odpoví, že pokud věnujeme pozornost pojmům následujících pravidel, které jsou užitečné pro kognitivní modelování,Aizawaovy konstrukce se budou zdát vedle.
7. Debata o systematičnosti
Hlavní body kontroverze ve filosofické literatuře o spojitosti mají co do činění s tím, zda spojenci poskytují životaschopné a nové paradigma pro pochopení mysli. Jedna stížnost spočívá v tom, že konektivistické modely jsou dobré pouze při zpracování asociací. Takové úkoly, jako je jazyk a uvažování, však nemohou být splněny pouze asociativními metodami, a proto je nepravděpodobné, že by spojenci odpovídali výkonu klasických modelů při vysvětlování těchto vyšších kognitivních schopností. Je však jednoduché dokázat, že neuronové sítě dokáží dělat cokoli, co mohou symbolické procesory udělat, protože mohou být konstruovány sítě napodobující obvody počítače. Námitkou tedy nemůže být to, že modely konektistů nezohledňují vyšší poznání; je to spíše tak, že to mohou udělat pouze tehdy, pokud implementují klasicistnís nástroje pro symbolické zpracování. Implementační konekcionismus může být úspěšný, ale radikální konekcionisté se nikdy nebudou moci za svou zodpovědnost zodpovídat.
Fodor a Pylyshynova často citovaná kniha (1988) zahajuje debatu tohoto druhu. Identifikují rys lidské inteligence zvaný systematičnost, který podle nich spojenci nemohou vysvětlit. Systematičnost jazyka odkazuje na skutečnost, že schopnost produkovat / rozumět / myslet si některé věty je vnitřně spojena se schopností produkovat / rozumět / myslet si jiné související struktury. Například nikdo s povelem anglického jazyka, který rozumí „John miluje Marii“, nemůže selhat v porozumění „Mary miluje Johna“. Z klasického hlediska lze spojení mezi těmito dvěma schopnostmi snadno vysvětlit předpokládáním, že mistři angličtiny představují složky („Jan“, „miluje“a „Marie“) „Jan miluje Marii“a vypočítávají jeho význam z významy těchto složek. Pokud je tomu tak,pak pochopení nové věty jako „Marie miluje Johna“lze považovat za další příklad stejného symbolického procesu. Podobným způsobem by symbolické zpracování odpovídalo za systematičnost uvažování, učení a myšlení. Vysvětlilo by to, proč neexistují lidé, kteří jsou schopni uzavřít P z P & (Q & R), ale nejsou schopni uzavřít P z P & Q, proč neexistují lidé, kteří by se mohli naučit dávat přednost červené kostce před zeleným čtvercem, kteří nemůže se naučit upřednostňovat zelenou kostku před rudým čtvercem, a proč neexistuje nikdo, kdo by si myslel, že John miluje Marii a nemůže si také myslet, že Mary miluje Johna. Vysvětlilo by to, proč neexistují lidé, kteří jsou schopni uzavřít P z P & (Q & R), ale nejsou schopni uzavřít P z P & Q, proč neexistují lidé, kteří by se mohli naučit dávat přednost červené kostce před zeleným čtvercem, kteří nemůže se naučit upřednostňovat zelenou kostku před rudým čtvercem, a proč neexistuje nikdo, kdo by si myslel, že John miluje Marii a nemůže si také myslet, že Mary miluje Johna. Vysvětlilo by to, proč neexistují lidé, kteří jsou schopni uzavřít P z P & (Q & R), ale nejsou schopni uzavřít P z P & Q, proč neexistují lidé, kteří by se mohli naučit dávat přednost červené kostce před zeleným čtvercem, kteří nemůže se naučit upřednostňovat zelenou kostku před rudým čtvercem, a proč neexistuje nikdo, kdo by si myslel, že John miluje Marii a který si také nemůže myslet, že Mary miluje Johna.
Fodor a McLaughlin (1990) podrobně argumentují, že spojenci neberou v úvahu systematičnost. Ačkoli lze modely konektistů naučit, aby byly systematické, mohou být také vyškoleny, aby například rozpoznaly „Jana miluje Marii“, aniž by byly schopny rozpoznat „Marie miluje Johna“. Protože konekcionismus nezaručuje systematičnost, nevysvětluje, proč se systematičnost v lidském poznání tak všudypřítomně nalézá. Systematičnost může existovat v connectistických architekturách, ale tam, kde existuje, nejde jen o náhodnou nehodu. Klasické řešení je mnohem lepší, protože v klasických modelech je všudypřítomná systematičnost zdarma.
Poplatek, že spojovací sítě jsou při vysvětlování systematičnosti znevýhodněny, vyvolal velký zájem. Chalmers (1993) zdůrazňuje, že argument Fodora a Pylyshyna se příliš osvědčil, protože to znamená, že všechny neuronové sítě, i ty, které implementují klasickou architekturu, nevykazují systematičnost. Vzhledem k nekontroverznímu závěru, že mozek je nervová síť, by z toho vyplývalo, že systematičnost je v lidském myšlení nemožná. Dalším často zmiňovaným bodem vyvrácení (Aizawa 1997; Matthews 1997; Hadley 1997b) je to, že klasické architektury nedokážou lépe vysvětlit systematičnost. Existují také klasické modely, které lze naprogramovat tak, aby rozpoznaly „Jana miluje Marii“, aniž by byly schopny rozpoznat „Marie miluje Johna.„Jde o to, že ani použití samotné konektivistické architektury, ani použití samotné klasické architektury nevynucuje dostatečně silné omezení pro vysvětlení všudypřítomné systematičnosti. V obou architekturách musí být učiněny další předpoklady o povaze zpracování, aby bylo zajištěno, že se zpracovává i „Marie miluje Johna“.
Diskuse o tomto bodě by měla zmínit Fodora a McLaughlinův požadavek, aby systematičnost byla vysvětlena jako věc nominální nezbytnosti, tj. Jako věc přirozeného práva. Stížnost proti spojistům je taková, že ačkoli mohou implementovat systémy, které vykazují systematičnost, nebudou to vysvětlovat, pokud to nevyplývá z jejich modelů jako nomická nutnost. Poptávka po nomické nezbytnosti je však velmi silná a ta, kterou ani klasické architektury zjevně nemohou splnit. Takže jedinou taktikou pro zajištění vypovídající námitky proti spojistům v tomto směru by bylo oslabení požadavku na vysvětlení systematičnosti tomu, které klasická architektura a spojovníci nemohou splnit. Přesvědčivý případ tohoto druhu musí být ještě předložen.
Jak se debata o systematice vyvíjí, pozornost se zaměřuje na definování kritérií, která by odpovídala na výzvu Fodora a Pylyshyna. Hadley (1994a, 1994b) rozlišuje tři značky systematičnosti. Spojenci jasně ukázali jejich nejslabší tím, že ukázali, že neuronové sítě se mohou naučit správně rozpoznávat nové sekvence slov (např. „Marie miluje Johna“), které nebyly v tréninkové sadě. Hadley však tvrdí, že přesvědčivé vyvrácení musí prokázat silnou systematičnost nebo lépe silnou sémantickou systematičnost. Silná systematičnost by vyžadovala (přinejmenším) uznání „Marie miluje Johna“, i když „Marie“se nikdy neobjeví v pozici předmětu v žádné větě v tréninkové sadě. Silná sémantická systematičnost by také vyžadovala, aby síť ukázala schopnosti správného sémantického zpracování nových vět namísto pouhého odlišení gramatických od negramatických forem. Niklasson a van Gelder (1994) prohlásili úspěch za silnou systematičnost, ačkoli Hadley si stěžuje, že se jedná přinejlepším o hraniční případ. Hadley a Hayward (1997) řeší silnou sémantickou systematičnost, ale podle Hadleyho vlastního připuštění není jasné, že se vyhýbali použití klasické architektury. Boden a Niklasson (2000) tvrdí, že vytvořili model, který splňuje přinejmenším ducha silné sémantické systematičnosti, ale Hadley (2004) tvrdí, že zde nebyla prokázána ani silná systematičnost. Ať už se na tyto pokusy dívá pozitivně nebo negativně,lze s jistotou říci, že nikdo nenaplnil výzvu poskytnout neuronovou síť schopnou naučit se složité sémantické zpracování, které zobecňuje na celou řadu skutečně nových vstupů.
Kent Johnson (2004) tvrdí, že celá debata o systematičnosti je zavádějící. Pokusy o pečlivé definování systematičnosti jazyka nebo myšlenky nás nechávají buď trivialitou nebo lžemi. Spojenci mají jistě vysvětlení, ale Johnson doporučuje, že je zbytečné prohlížet jejich břemeno pod rubrikou systematičnosti. Místo toho je třeba vyvinout modely neuronových sítí schopné zpracovat jazyk s rekurzivní syntaxí, které okamžitě reagují na zavedení nových položek do lexikonu. Debata o „systematičnosti“možná již proběhla, jak radí Johnson, protože to, co Hadley nazývá silnou sémantickou systematičností, se zdá být dobrým měřítkem úspěchu v tomto směru.
8. Connectionism a sémantická podobnost
Jednou z atrakcí distribuovaných reprezentací v connectistických modelech je to, že navrhují řešení problému určování významu mozkových stavů. Myšlenka je taková, že podobnosti a rozdíly mezi aktivačními vzory podél různých dimenzí neurální aktivity zaznamenávají sémantické informace. Tímto způsobem vlastnosti podobnosti nervových aktivací poskytují vnitřní vlastnosti, které určují význam. Fodor a Lepore (1992, Ch. 6) však zpochybňují účty založené na podobnosti na dvou frontách. Prvním problémem je, že lidské mozky se pravděpodobně výrazně liší v počtu neuronů a jejich spojeních. Ačkoli je snadné definovat opatření podobnosti na dvou sítích, které obsahují stejný počet jednotek, je těžší pochopit, jak toho lze dosáhnout, když se základní architektury dvou sítí liší. Druhým problémem, který citují Fodor a Lepore, je to, že i když lze úspěšně vytvořit měřítka podobnosti pro významy, nejsou dostačující k plnění úkolů, které musí splňovat teorie významu.
Churchland (1998) ukazuje, že první z těchto dvou námitek lze vyhovět. V práci Laakso a Cottrell (2000) vysvětluje, jak lze definovat míry podobnosti mezi aktivačními vzory v sítích s radikálně odlišnými strukturami. Laakso a Cottrell nejen ukazují, že sítě různých struktur trénovaných na stejný úkol rozvíjejí aktivační vzorce, které jsou silně podobné podle doporučených opatření. To nabízí naději, že mohou být vytvořeny empiricky dobře definované míry podobnosti konceptů a myšlenek u různých jedinců.
Na druhé straně, rozvoj tradiční teorie významu založené na podobnosti čelí vážným překážkám (Fodor a Lepore 1999), protože taková teorie by byla povinna přiřadit věty pravdivostním podmínkám na základě analýzy významu jejich částí a není zřejmé, že podobnost sama o sobě závisí na takových úkolech, jako je fixace označení způsobem, jaký vyžaduje standardní teorie. Většina spojistů, kteří propagují účty založené na podobnosti, však odmítá mnoho předpokladů standardních teorií. Doufají, že vymyslí fungující alternativu, která tyto předpoklady buď odmítne, nebo změní, a přitom bude stále věrná údajům o lidských jazykových schopnostech.
Calvo Garzon (2003) si stěžuje, že existují důvody se domnívat, že spojenci musí selhat. Odpověď Churchlandu nemá odpověď na výzvu k zajištění informací. Tento problém spočívá v tom, že měřené podobnosti mezi aktivačními vzory pro koncept (řekněme: babička) ve dvou lidských mozcích jsou zaručeny velmi nízké, protože informace o dvou lidech (kolaterálu) o jejich babičkách (jméno, vzhled, věk, postava) být velmi odlišný. Pokud jsou koncepty definovány vším, co známe, pak musí být opatření pro aktivační vzorce našich konceptů daleko od sebe. To je skutečně hluboký problém v jakékoli teorii, která doufá, že bude definovat význam funkčním vztahem mezi stavy mozku. Filozofové mnoha pruhů se musí potýkat s tímto problémem. Vzhledem k absenci úspěšně propracované teorie konceptů v tradičních nebo konjunistických paradigmatech je spravedlivé ponechat otázku budoucímu výzkumu.
9. Spojenectví a eliminace lidové psychologie
Další důležitá aplikace konekcionistického výzkumu ve filozofické debatě o mysli se týká stavu lidové psychologie. Lidová psychologie je koncepční struktura, kterou spontánně aplikujeme na porozumění a předpovídání lidského chování. Například vědět, že si John přeje pivo a že věří, že v chladničce je jedno, nám umožňuje vysvětlit, proč John právě šel do kuchyně. Takové znalosti rozhodujícím způsobem závisí na naší schopnosti představit si ostatní o tom, že mají touhy a cíle, plány na jejich splnění a přesvědčení, že tyto plány povedou. Myšlenka, že lidé mají víru, plány a touhy, je běžnou součástí běžného života; ale poskytuje věrný popis toho, co se vlastně nachází v mozku?
Jeho obránci budou argumentovat, že lidová psychologie je příliš dobrá na to, aby byla nepravdivá (Fodor 1988, kapitola 1). Co víc můžeme požádat o pravdu teorie, než že poskytuje nezbytný rámec pro úspěšné jednání s ostatními? Na druhé straně budou eliminativisté odpovídat na to, že užitečné a rozšířené používání koncepčního schématu neprotestuje za svou pravdu (Churchland 1989, kapitola 1). Starověcí astronomové považovali pojem nebeských koulí za užitečný (i nezbytný) pro provádění své disciplíny, ale nyní víme, že neexistují žádné nebeské sféry. Z pohledu eliminativistů stojí věrnost lidové psychologii, stejně jako věrnost lidové (aristotelské) fyzice, v cestě vědeckému pokroku. Životaschopná psychologie může vyžadovat jako radikální revoluci ve svých koncepčních základech, jaké se vyskytují v kvantové mechanice.
Eliminativisté se zajímají o konekcionismus, protože slibuje poskytnout koncepční základ, který by mohl nahradit lidovou psychologii. Například Ramsey et al. (1991) tvrdili, že určité sítě pro předávání dokazují, že jednoduché kognitivní úkoly lze provádět bez použití funkcí, které by mohly odpovídat víře, touhám a plánům. Předpokládáme-li, že takové sítě jsou věrné tomu, jak mozek funguje, nejsou pojetí lidové psychologie lepší než nebeská sféra. Zda konekcionistické modely tímto způsobem podkopávají lidovou psychologii, je stále kontroverzní. Existují dvě hlavní linie odezvy na tvrzení, že konekcionistické modely podporují eliminativistické závěry. Jednou z výhrad je to, že modely používané Ramsey et al. jsou dopředné sítě, které jsou příliš slabé na to, aby vysvětlily některé z nejzákladnějších rysů poznání, jako je krátkodobá paměť. Ramsey a kol. neprokázali, že víra a touhy musí chybět ve třídě sítí odpovídajících lidskému poznání. Druhá linie vyvrácení zpochybňuje tvrzení, že prvky odpovídající víře a touhám nutně chybí i v dotčených sítích pro předávání vpřed (Von Eckardt 2005).
Otázka je dále komplikována neshodami o povaze lidové psychologie. Mnoho filozofů považuje víru a touhy postulované lidovou psychologií za stavy mozku se symbolickým obsahem. Například přesvědčení, že v lednici je pivo, se považuje za stav mozku, který obsahuje symboly odpovídající pivu a lednici. Z tohoto hlediska je osud lidové psychologie silně spjat s hypotézou symbolického zpracování. Takže pokud spojovníci dokážou prokázat, že zpracování mozku je v zásadě nem symbolické, budou následovat eliminativistické závěry. Na druhé straně si někteří filozofové nemyslí, že lidová psychologie je v podstatě symbolická, a někteří by dokonce zpochybnili myšlenku, že s lidovou psychologií by se mělo zacházet jako s teorií. Podle této koncepceje mnohem obtížnější vytvořit vazby mezi výsledky ve spojistickém výzkumu a odmítnutím lidové psychologie.
Bibliografie
Aizawa, K., 1994, „Reprezentace bez pravidel, konekcionismus a syntaktický argument“, Synthese, 101: 465–492.
Aizawa, K., 1997, „Vysvětlení systematičnosti“, Mind and Language, 12: 115–136.
Aizawa, K., 1997, „Vystavování versus vysvětlování systematičnosti: odpověď na Hadleyho a Haywarda,“Minds and Machines, 7: 39–55.
Bechtel, W., 1987, „Propojení a filozofie mysli: přehled“, The Southern Journal of Philosophy, 26 (Dodatek): 17–41.
Bechtel, W., 1988, „Spojovací systémy a pravidla a reprezentační systémy: Jsou kompatibilní?“, Filozofická psychologie, 1: 5–15.
Bechtel, W., a Abrahamsen, A., 1990, Connectionism and the Mind: Úvod do paralelního zpracování v sítích, Cambridge, Mass.: Blackwell.
Boden, M. a Niklasson, L., 2000, „Sémantická systematičnost a kontext v spojovacích sítích“, „Science Science“, 12: 111–142.
Butler, K., 1991, „Směrem k konektivistické kognitivní architektuře“, Mind and Language, 6: 252–272.
Calvo Garzon, F., 2003, „Connectionist Sémantics and Collateral Information Challenge“, Mind and Language, 18: 77–94.
Chalmers, D., 1990, „Syntaktické transformace na distribuovaných reprezentacích“, Connection Science, 2: 53–62.
Chalmers, D., 1993, „Proč byly Fodor a Pylyshyn špatně: Nejjednodušší vyvrácení,“Filozofická psychologie, 6 (3): 305–319.
Christiansen, M., a Chater, N., 1994, „Zevšeobecňování a konektivistické jazykové učení“, Mind and Language, 9: 273–287.
Churchland, PM, 1995, Motor rozumu, sídlo duše: filozofická cesta do mozku, Cambridge, Mass.: MIT Press.
Churchland.
Churchland, PM, 1989, Neurocomputational Perspective: The Nature of Mind and Structure of Science, Cambridge, Mass.: MIT Press.
Clark, A., 1989, Microcognition, Cambridge, Mass.: MIT Press.
Clark, A., 1993, asociativní motory, Cambridge, Mass.: MIT Press.
Clark, A., 1995, „Connectionist Minds“, v McDonald (1995), 339–356.
Clark, A., a Lutz, R. (eds.), 1992, Connectionism in Context, Springer.
Cotrell G., a Small, S., 1983, „Schéma konekcionismu pro modelování nesouladu slov,“Poznání a teorie mozku, 6: 89–120.
Cummins, R., 1991, „Úloha reprezentace v souvislosti s vysvětlením kognitivních kapacit,“v Ramsey, Stich a Rumelhart (1991), 91–114.
Cummins, R., 1996, „Systematicity“, Journal of Philosophy, 93 (22): 561–614.
Cummins, R. a Schwarz, G., 1991, „Connectionism, Computation and Cognition“, T. Horgan a J. Tienson (1991), 60–73.
Davies, M., 1989, „Connectionism, Modularity and Tacit Knowledge“, British Journal for the Philosophy of Science, 40: 541–555.
Davies, M., 1991, „Koncepty, konekcionismus a jazyk myšlení“, v Ramsey et al. (1991), 229 - 257.
Dinsmore, J. (ed.), 1992, Symbolická a spojistická paradigma: Uzavření mezery, Hillsdale, NJ: Erlbaum.
Elman, JL, 1991, „Distribuované reprezentace, jednoduché opakující se sítě a gramatická struktura“, v Touretzky (1991), 91–122.
Fodor, J., 1988, Psychosemantics, Cambridge, Mass.: MIT Press.
Fodor, J., 1997, „Connecionismus a problém systematičnosti: Proč Smolenského řešení stále nefunguje,“Cognition, 62: 109–119.
Fodor, J., a Lepore, E., 1992, Holism: A Shopper's Guide, Cambridge: Blackwell.
Fodor, J., a Lepore, E., 1999, „Vše na moři v sémantickém prostoru: Churchland o významu podobnosti“, Journal of Philosophy, 96: 381–403.
Fodor, J., a McLaughlin, B., 1990, „Propojitost a problém systematičnosti: Proč Smolenského řešení nefunguje,“Cognition, 35: 183–204.
Fodor, J. a Pylyshyn, Z., 1988, „Konektivismus a kognitivní architektura: kritická analýza“, Poznání, 28: 3–71.
Garfield, J., 1997, “Mentalese Not Speak Here Here: Computation Cognition and Causation,” Philosophical Psychology, 10: 413–435.
Garson, J., 1991, „Co spojenci nemohou udělat: Hrozba klasické AI“, v T. Horgan a J. Tienson (1991), 113–142.
Garson, J., 1994, „Poznání bez klasické architektury“, Synthese, 100: 291–305.
Garson, J., 1997, „Syntax v dynamickém mozku“, Synthese, 110: 343–355.
Guarini, M., 2001, „Obrana spojitosti proti syntaktickému argumentu“, Synthese, 128: 287–317.
Hadley, R., 1994a, „Systematičnost v učení se o spojistickém jazyce“, Mind and Language, 9: 247–271.
Hadley, R., 1994b, „Systematicity Revisited“, Mind and Language, 9: 431–444.
Hadley, R., 1997a, „Vysvětlení systematičnosti: odpověď na Kenneth Aizawa,“Minds and Machines, 7: 571–579.
Hadley, R., 1997b, „Poznání, systematičnost a nominální nutnost“, Mind and Language, 12: 137–153.
Hadley, R., 2004, „O správném zacházení se sémantickou systematičností“, Minds and Machines, 14: 145–172.
Hadley, R., a Hayward, M., 1997, „Silná sémantická systematičnost z hebbského konektistického učení“, Minds and Machines, 7: 1-37.
Hanson, J., a Kegl, J., 1987, „PARSNIP: Spojistická síť, která se učí gramatiku přirozeného jazyka od expozice větám přirozeného jazyka,“devátá výroční konference kognitivní vědecké společnosti, Hillsdale, NJ: Erlbaum, s. 106 –119.
Hatfield, G., 1991, „Reprezentace ve vnímání a poznání: konjunistické vztahy“, v Ramsey et al. (1991), 163–195.
Hatfield, G., 1991, „Reprezentace a instinkce v spojistických systémech“, v T. Horgan a J. Tienson (1991), 90–112.
Hinton, G., McClelland, J., a Rumelhart, D., 1986, „Distribuované reprezentace“, Kapitola 3 Rumelhart, McClelland, et al. (1986).
Horgan, T. a Tienson, J., 1989, „Reprezentace bez pravidel“, Philosophical Topics, 17: 147–174.
Horgan, T. a Tienson, J., 1990, „Soft Laws“, Midwest Studies in Philosophy, 15: 256–279.
Horgan, T., a Tienson, J. (eds.), 1991, Connectionism and Philosophy of Mind, Dordrecht: Kluwer.
Horgan, T., a Tienson, J., 1996, Connectionism and Philosophy of Psychology, Cambridge, Mass.: MIT Press.
Johnson, K., 2004, „O systematičnosti jazyka a myšlení“, Journal of Philosophy, 101: 111–139.
Laakso, A., a Cotrell, G., 2000, „Obsahová a shluková analýza: Posouzení reprezentativní podobnosti v nervových systémech,“Filozofická psychologie, 13: 47–76.
Macdonald, C. (ed.), 1995, Connectionism: Debates on Psychological Explanation, Oxford: Blackwell.
Matthews, R., 1997, „Mohou spojenci vysvětlit systematičnost?“Mind and Language, 12: 154–177.
Marcus, G., 2001, The Algebraic Mind, Cambridge, Mass.: MIT Press.
McClelland, J. a Elman, J., 1986, „TRACE model vnímání řeči“, kognitivní psychologie, 18: 1–86.
McClelland, J., Rumelhart, D., a kol., 1986, Parallel Distributed Processing, Volume II, Cambridge, Mass.: MIT Press.
McLaughlin, B., 1993, „Bitva o spojitost / klasicismus za získání duší“, Philosophical Studies, 71: 163–190.
Miikkulainen, T., 1993, Subsymbolické zpracování přirozeného jazyka: Integrovaný model skriptů, Lexikon a paměť, Cambridge, Mass.: MIT Press.
Niklasson, L., a van Gelder, T., 1994, „On Being Systematically Connectionist“, Mind and Language, 9: 288–302.
Phillips, S., 2002, „Vysvětluje klasicismus univerzalitu?“Minds and Machines, 12: 423–434.
Pinker, S., a Mehler, J. (eds.), 1988, Connections and Symbols, Cambridge, Mass.: MIT Press.
Pinker, S., a Prince, A., 1988, „O jazyce a spojitosti: Analýza modelu paralelního distribuovaného zpracování jazykové akvizice“, Cognition, 23: 73–193.
Pollack, J., 1989, „Implications of rekurzivní distribuované reprezentace“, v Touretzky (1989), 527–535.
Pollack, J., 1991a, „Indukce dynamických rozpoznávačů“, v Touretzky (1991), 123–148.
Pollack, J., 1991b, „Rekurzivní distribuované zastoupení“, v Hintonu (1991), 77–106.
Port, R., a van Gelder, T., 1991, „Zastupování aspektů jazyka“, sborník z třinácté výroční konference kognitivní vědecké společnosti, Hillsdale, NJ: Erlbaum.
Ramsey, W., 1997, „Vydělávají si reprezentační reprezentace svůj vysvětlující list?“Mind and Language, 12: 34–66.
Ramsey, W., Stich, S., a Rumelhart, D., 1991, Filozofie a teorie spojitosti, Hillsdale, NJ: Erlbaum.
Ramsey, W., Stich, S. a Garon, J., 1991, „Connectionism, Eliminativism and Future of Folk Psychology“, Ramsey, Rumelhart and Stich (1991), 199–228.
Roth, M., 2005, „Provádění programu ve spojovacích sítích“, Mind and Language, 20: 448–467.
Rumelhart, D. a McClelland, J., 1986, „O učení minulých časů anglických sloves“, v McClelland a Rumelhart et al. (1986), 216 - 271.
Rumelhart, D., McClelland, J., a kol., 1986, Parallel Distributed Processing, sv. I, Cambridge, Mass.: MIT Press.
Sejnowski, T. a Rosenberg, C., 1987, „Paralelní sítě, které se naučí vyslovovat anglický text,“Complex Systems, 1: 145–168.
Servan-Schreiber, D., Cleeremans, A., a McClelland, J., 1991, „Graded State Machines: Reprezentace dočasných nepředvídaných událostí v jednoduchých opakujících se sítích“, v Touretzky (1991), 57–89.
Shastri, L., a Ajjanagadde, V., 1993, „Od jednoduchých asociací k systematickému uvažování: spojistická reprezentace pravidel, proměnných a dynamických vazeb pomocí dočasné synchronizace“Behaviorální a mozkové vědy, 16: 417–494.
Shea, N., 2007, „Obsah a jeho vozidla v spojovacích systémech“, Mind and Language, 22: 246–269.
Shultz T. a Bale, A., 2001, „Simulace neuronové sítě seznámení dětí s umělými věty“, Infancy, 2: 501–536.
Shultz T. a Bale, A., 2006, „Neuronové sítě objevují vztah blízké identity k rozlišování jednoduchých syntaktických forem,“Minds and Machines, 16: 107–139.
Smolensky, P., 1987, „Základní struktura vazebních mentálních států: Odpověď na Fodora a Pylyshyna,“The Southern Journal of Philosophy, 26 (Dodatek): 137–161.
Smolensky, P., 1988, „O správném zacházení s konekcionismem“, Behavioral and Brain Sciences, 11: 1-74.
Smolensky, P., 1991, „Tensor Product Variable Vinding and Reprezentace Symbolic Structures in Connectionist Systems,“v Hinton (1991), 159-216.
Smolensky, P., 1995, „Základní struktura a vysvětlení v integrované konektivistické / symbolické kognitivní architektuře“, MacDonald (1995).
St. John, M. a McClelland, J., 1991, „Učení a uplatňování kontextových omezení při porozumění věty“, v Hintonu (1991), 217–257.
Tomberlin, J. (ed.), 1995, Filozofické perspektivy 9: AI, Connectionism and Philosophical Psychology, Atascadero: Ridgeview Press.
Touretzky, D., 1989, Pokroky v systémech zpracování neurálních informací I, San Mateo, CA: Kaufmann.
Touretzky, D., 1990, Pokroky v systémech zpracování neurálních informací II, San Mateo, CA: Kaufmann.
Touretzky, D., 1991, Connectionist přístupy k jazykovému učení, Dordrecht: Kluwer.
Touretzky, D., Hinton, G., a Sejnowski, T., 1988, Sborník z Letní školy kongresistických modelů z roku 1988, San Mateo: Kaufmann.
van Gelder, T., 1990, „Kompozičnost: konekcionistická variace na klasické téma“, Cognitive Science, 14: 355–384.
van Gelder, T., 1991, „Co je to„ D “v PDP?“v Ramsey et al. (1991), 33–59.
van Gelder, T a Port, R., 1993, „Beyond Symbolic: Prolegomena to Kama-Sutra of Compositionality“, v V. Honavar a L. Uhr (Eds.), Zpracování symbolů a modely spojitosti v AI a Poznání: Kroky Směrem k integraci, Boston: Academic Press.
Vilcu, M. a Hadley, R., 2005, „Dva zjevné protiklady“k Marcusovi: Bližší pohled, “Minds and Machines, 15: 359–382.
Von Eckardt, B., 2003, „Vysvětlující potřeba mentálních reprezentací v kognitivní vědě“, Mind and Language, 18: 427–439.
Von Eckardt, B., 2005, „Connecionismus a prozatímní postoje“, v C. Erneling a D. Johnson (eds.), Mysl jako vědecký objekt: Mezi mozkem a kulturou, New York: Oxford University Press.
Waltz, D. a Pollack, J., 1985, „Masivně paralelní parsování: silně interaktivní model interpretace přirozeného jazyka,“kognitivní věda, 9: 51–74.
Další internetové zdroje
Bibliografie o spojitosti, sestavil David Chalmers (University of Arizona).
Connectionism: Short Reading List, vedený Ezra van Everbroeck (University of California, San Diego).