Lehet-e tudatos gépet csinálni?

A dualisták szerint az ember nem algoritmizálható - azaz nem lehet olyan programot csinálni, ami pontosan úgy érez és viselkedik, mint egy ember. Ha elfogadjuk a fenti érveim, és a dualizmussal nem a viselkedést, csak a tudatosságot kívánjuk magyarázni, akkor az előbbi állítás arra szűkíthető, hogy nem lehet olyan gépet csinálni, ami tudatos (jóllehet a gép minden tekintetben viselkedhet úgy, mint az emberek, állíthatja például magáról azt, hogy tudatos). Az első variáció cáfolható - csak egy gépet kell készíteni, ami úgy viselkedik mint mi. A második állítás cáfolatához kellene egy biztos módszer, ami alapján el lehet dönteni, hogy valakinek van-e "létélménye", tudatossága, vagy nincs. Ilyen módszerről jelenleg nem tudunk.

Van viszont legalább egy alternatíva, ami nem teszi lehetővé hozzánk hasonlóan működő gépek készítését, miközben elveti a lélek koncepcióját, megmaradva a materializmus talaján. Roger Penrose szerint(12) a tudatosságunk és viselkedésünk közvetlenül olyan (jelenleg ismeretlen) fizikai folyamatokon is alapul, amelyeket nem lehetséges számítógépekkel szimulálni - nem algoritmizálhatóak. Ez természeten nem teszi lehetetlenné olyan hozzánk hasonló gépek készítését, amik ezen fizikai folyamatokat kihasználva működnek - mindössze a jelenlegi számítógépeinket teszik alkalmatlanná erre. Penrose szerint a tudat nem implementációfüggetlen, azaz nem lehet tetszőleges dolgokból tudatos rendszert létrehozni - csak bizonyos fizikai felépítéssel rendelkező dolgok lehetnek tudatosak.

A harmadik lehetőség, ami jelenlegi tudományos ismereteinkkel leginkább összeilleszthető, az, hogy valójában magunk is gépek vagyunk, amiket az evolúció tákolt össze. Ez esetben nincs olyan elméleti akadály, ami megakadályozhatna minket tudatos gépek készítésében. Ez a lehetőség azonban jelenleg adós az arra adandó válasszal, hogy miképpen jelenhet meg a tudat az ismert fizikai jelenségekre épülve. Ez természetesen nem jelenti azt, hogy nem is létezhet ilyen magyarázat.

Tudatosság és konzervdobozok

Annak az álláspontnak, hogy az ember, és így a tudat is algoritmizálható, furcsa, intuícióellenes következményei vannak, amik sokakat arra sarkallnak, hogy tarthatatlannak véljék ezt a lehetőséget. Ha a tudat algoritmizálható, készíthetünk tudatos számítógépprogramot. Tudjuk viszont, hogy egy számítógép műveleteit elvégezhetjük papíron is. Amit egy számítógép ki tud számolni, arra mi is képesek vagyunk egy toll és egy papírlap segítségével, jóllehet sokkalta lassabban. Mivel a gépünk alapvetően egyesekkel és nullákkal operál, igazából még papírra sincs szükségünk: néhány konzervdoboz megfelelő módon való rakosgatásával - a gép által követett algoritmust követve - megkapjuk a gép válaszát egyesek (van konzervdoboz) és nullák (nincs konzervdoboz) sorozataként. Ha tehát egy számítógép képes tudatosságot alkotni, akkor a konzervdobozok megfelelő módon való rakosgatásának is tudatot kell létrehoznia - mivel a számítógép minden művelete szimulálható ezzel a módszerrel.

Ez az állítás önmagában nem vezet önellentmondáshoz. Ahogy a konzervdobozok segítségével a fentiek mintájára lehet követni olyan algoritmust, ami lehetővé teszi, hogy Kasparovot megverjük sakkban (miként azt a Deep Blue nevű számítógépes program tette), a tudat létrehozásának lehetősége se vezet logikai ellentmondáshoz. A megvalósítás tekintetében persze akadhatnak problémák - Kasparov például már rég halott lenne, mire a konzervdobozokkal kiszámolnánk akár csak az első pár lépésünket -, de nem tudunk semmilyen akadályról, ami ezt elméletileg lehetetlenné tenné. Ha a tudat valamilyen e tekintetben fontos módon függ az időtől, az megmentheti az intuíciónkat, mely szerint dobozok rakosgatása nem eredményezhet tudatot - ez esetben mondjuk egy számítógép még lehetne tudatos, de egy rakás megfelelő módon rakosgatott konzervdoboz - a hozzá szükséges túl sok idő miatt - nem. Nem tudunk azonban semmiről, ami miatt feltételeznünk kellene a tudat időfüggőségét. A következőkben amellett fogok érvelni, hogy nincs is okunk megvédeni a konzervdobozokkal kapcsolatos intuíciónkat.

Csecsemőkkel folytatott kísérletek szerint(13) már az újszülött különbséget tesz az emberek és a tárgyak között. Az élőlényeket alapvetően másképp érdemes kezelni, mint az élettelen tárgyakat. Miközben ez utóbbiak viselkedése nagy eséllyel megjósolható néhány ösztönös fizikai ismeret által (ha elengedem, leesik a földre, ha nekimegy valaminek, azt meglöki stb.), az élőlények viselkedésének megjóslásához többre van szükség.

Mivel az élőlények viselkedését az evolúció formálta, vannak bizonyos tendenciák, amiket azok követnek. A legtöbb élőlény például nem akar meghalni - hiszen az nem tesz jót génjei elterjedésének. Emiatt nem akar éhenhalni sem, és igyekezni fog elkerülni minden olyan helyzetet, ami a halálához vezet. Az ehhez hasonló tendenciák miatt viselkedésük előrejelzéséhez jó módszer, ha "vágyakat" (pl. enni szeretne), "hiedelmeket" (pl. azt hiszi hogy tőlem kap enni), "célokat" (pl. ide akar jönni hogy elvegye az ételt) rendelünk hozzájuk.(14)

Az élőlényekkel, különösen pedig az emberekkel kapcsolatban speciális, kifejezetten rájuk szabott ösztönök segítik döntéseinket(15). Mivel a különböző tárgyakra alkalmazva ezek az ösztönök egészen irreális előrejelzéseket adnának (például hogy a tej mindent meg fog tenni annak érdekében, hogy ne igyam meg), nem meglepő, ha intuíciónk azt súgja, hogy néhány konzervdoboz, akárhogy is rakosgatom őket, nem jár semmiféle tudatossággal (tudatosan megélt érzésekkel, vágyakkal és így tovább).

Jóllehet amit egy számítógép ki tud számolni, azt néhány konzervdoboz is, a számítógépekkel kapcsolatban az intuíciónk - legalábbis sok emberé - már nem ellenkezik olyan hangosan. Ahogy azt Dennett kifejtette(16), a jelenlegi gépeink viselkedéséről, például egy sakkprogram esetében azzal tudjuk valós időben a legjobb előrejelzéseket tenni, ha úgy kezeljünk, mint aki "nyerni szeretne", "úgy gondolja, hogy én is nyerni szeretnék", "ismeri a játék szabályait" és "ezen körülmények figyelembevételével az általa legjobbnak tartott lépést fogja megtenni". A konzervdobozokra, bármire is képesek a segítségünkkel elvileg, a gyakorlatban soha nem volt, és valószínűleg nem is lesz érdemes használnunk ezen előrejelzési technikákat.

Az intuíciónk tehát nem megbízható forrás e kérdés tekintetében.