Riječi “um” i “svijest” koriste različite zajednice na različite načine.
Je li svijest, u biti, ključno svojstvo inteligencije? To bi imalo smisla, kao što možemo reći da je pas više svjestan od kokoši, koja je svjesnija od mrava. Ako tako razmišljamo, svijest nije binarna, nego kontinuum.
I, tko može reći da ljestvica završava s nama? Genetski gledano, mi se jedva razlikujemo od majmuna. Deklarirati ljude kao vrhunac svijesti je poprilično arogantno, i zasigurno nije tako (u teoriji!).
John Searle, američki filozof, teoretizirao je dvije vrste AI:
Jaka AI: Fizički sustav koji može imati um i mentalna stanja
Slab AI: Fizički sustav koji može djelovati inteligentno
Njegov je cilj bio razlikovati to dvoje kako bi se usredotočio na „zanimljivije“ pitanje - ono koje se bavi problemom svijesti. Ovaj problem je “težak” jer razumijemo i možemo replicirati mnoge podsustave svijesti (kao što su mentalna stanja, obrada informacija, itd.), ali ne i kako se oni interpoliraju u bića. Mi jednostavno ne razumijemo mehanizam kroz koji se obavlja funkcija svijesti.
Međutim, istraživači AI danas se ne bave razlikom između jake i slabe umjetne inteligencije, budući da bi opća inteligencija trebala "djelovati" kao takva, osim ako se ne dokaže da postoji neki tajni dodatni sastojak za "svijest" koji je potreban. Ako smo u stanju softverski replicirati mozak, on bi (u teoriji) imao sve sposobnosti ljudskog mozga.
Ukratko, ovi argumenti pokazuju da dok ne nađemo mjerljivi, objektivni mehanizam odgovoran za svijest, moramo pretpostaviti da je razmišljanje, učenje, općenito inteligentni stroj jednako svjestan kao i mi.
No, neki se ne slažu.
Neki mislioci novoga doba opisuju svijest kao "nevidljivu, energetsku tekućinu koja prožima život i um." To razmišljanje vodi nas do pojma duše, duha ili nekog drugog nezemaljskog, eteričnog dijela osobe koji nas čini nečim važnijim od komada od mesa. No, da bismo razmotrili tu mogućnost, ponovno ćemo posjetiti problem binarne svijesti. Da li psi, kokoši, mravi itd. također posjeduju duše? Ako ne, onda su svi jednako svjesni, što svakako nije slučaj.
Provedeni su mnogi eksperimenti za kvantitativno mjerenje prisutnosti duše - nijedno istraživanje nije dalo eksperimentalnu potvrdu. Može se reći da duša, a time i svijest, nije kvantitativno mjerljiva. Ako je to slučaj, nevidljiva, nemjerljiva stvar nema težinu u našoj raspravi. Općenito, argumenti protiv strojne svijesti mogu se sažeti kao duhovni i nemaju vjerodostojnost u eksperimentalnom dokazivanju.
Sveukupno, pokazatelji ne poriču mogućnosti svjesnosti stroja. Nema pravih zapreka da se kaže da to nije moguće.
