Turingtesten, symbolsystemhypotesen og kunnskapsproblemet. ITSLP /01/2008 Erik Velldal

Transkript

1 Turingtesten, symbolsystemhypotesen og kunnskapsproblemet ITSLP /01/2008 Erik Velldal

2 Kan maskiner tenke? Hva slags type spørsmål er dette? Empirisk / teknologisk? Filosofisk? (Copeland) Siden maskiner ikke kan ha bevissthet kan de ikke tenke. Er både premisset og slutningen feil? Eksperimenter Blindesyn Lackner & Garret

3 Turingtesten

4 Er testen allerede bestått? Flere har blitt lurt av ELIZA, AOLiza, Parry, etc.. Men kriteriene for TT ikke oppfylt. Forsøkte ikke aktivt og kritisk å identifisere en maskin. Viste ikke kontrasten mellom menneske og maskin. Eksperimentet må gjentas flere ganger. Etc..

5 Innvendinger mot turingtesten Sjimpanse-argumentet Sanseorgan-argumentet Simulerings-argumentet Blackbox-argumentet

6 Sjimpanseargumentet En sjimpanse kan ikke bestå testen Antroposentrisk Testen er for konservativ Invaliderer ikke testen, men betyr at et negativt utfall ikke er fellende.

7 Sanseorganargumentet Ingen sanseorgan, ingen referanse Hva med abstrakte begreper? Kan ikke defineres ostensivt..

8 Simuleringsargumentet En simulering av X er ikke X Jfr. forvekslingen av mann og kvinne i den opprinnelige selskapsleken, the imitation game. Forskjellige typer simulering Kunstig vs. På liksom

9 Blackbox-argumentet Behavioristisk / funksjonalistisk. Ser kun på ytre atferd. Turing: Det samme gjelder mennesker. Overser betydningen av felles biologi. Men hvordan ev. definere et designkriterium? Biologi, modularitet..?

10 Når sier vi at noe tenker? Turings indirekte tilnærming: Hvis Y utfører X, vil du da si at Y tenker? Copeland: Uansett hva vi setter inn for X så er testen ikke god nok. Tar ikke hensyn til indre prosesser. Finnes heller ingen tilfredsstillende design-kriterier. Det finnes ikke noe svar: Et definisjonsspørsmål. Jfr. paradokset om Theseus skip.

11 Når sier vi at noe tenker? Biologiske og fenomenologiske distinksjoner ikke tilfredsstillende Eksemplet om blinde reflekser hos graveveps: Ikke tenkning. Copeland: Krav om å være massively adaptable Tilpassningsdyktige indre prosesser.

12 Massively adaptable Å ha evnen til å: Legge planer Analysere situasjoner Revurdere oppfatninger i lys av ny informasjon Veie konkurrerende interesser opp mot hverandre Formulere og teste hypoteser Ta hensiktsmessige beslutninger basert på mangelfull informasjon og gjøre alt dette i den virkelige verden.

13 Massively adaptable Muliggjør forklaring av atferd utfra intensjonalitet En ikke-eksakt definisjon Evolusjonsmessig og artsmessig kontinuum Hvis en kunstig agent skulle vise seg å være massively adaptable, må vi kunne si at den tenker. Neste spørsmål: Hva slags type maskin er en datamaskin, og er dette riktig type maskin for tenkning?

14 Datamaskin = Symbolmanipulator En datamaskin manipulerer symboler v.h.a noen få fundamentale operasjoner. Symbolene kan være gitt f.eks ved en binær kode som i moderne datamaskiner; 0 / 1. Bits. Symbolene kan videre implementeres f.eks som elektrisk spenning; av / på. Vilkårlig og kovensjonsbestemt hva en gitt kombinasjon av bits representerer.

15 Binærkode Representasjon av tall n bits gir 2^n muligheter. En byte = 8 bits = 2^8 = 256 muligheter = 65 Representasjon av bokstaver F.eks ASCII = A

16 Symbolmanipulering Grammatiske regler for velformete uttrykk Komposisjonalitet eplekake = eple + kake Rekursjon deilig, varm eplekake NP N NP A + NP Tenk spiral, ikke sirkel Komposisjonalitet + rekursjon = uendelige muligheter med en endelig mengde symboler og regler

17 Symbolsystemhypotesen Universal symbol system = generalpurpose stored-program computer (Herman skal snakke mer om turingmaskiner i neste forelesning.) Hypotesen: Et universelt symbolsystem kan realisere kunstig intelligens. Sterk SSH: kun et symbolsystem er i stand tenke. Tenkning = symbolmanipulering (Vi kommer tilbake til SSSH i kapittel 9.)

18 Multippel realiserbarhet Vi skiller mellom funksjonalitet (høyt nivå) og fysisk implementering (lavt nivå). Er menneskehjernen en organisk realisering av et universelt symbolsystem? Kjernen i Turings idé var nettopp at tenkning er uavhengig av fysisk realisering.

19 Multippel realiserbarhet Babbages Analytical Engine (1837)

20 Kritikk av AI Intelligensen ligger ofte kun hos programmereren, ikke programmet. Løsningen på et problem ligger ofte i representasjonen av problemet. Programmererens bidrag Selve problemløsningen er ofte bare blind prøving-og-feiling Teknikker for problemløsning verdiløse uten kunnskap. To sider av samme sak.

21 Kritikk av AI "Current claims and hopes for progress in making computers intelligent are like the belief that someone climbing a tree is making progress toward reaching the moon." Stuart Dreyfus Mikroverden-tilnærmingen ikke skalérbar

22 Kunnskapsproblemet Organisering, oppdatering, relevans.. Politiet nektet å gi studentene tillatelse til å demonstrere fordi de fryktet voldelige sammenstøt. de advokerte væpnet revolusjon. Hvem er de? Nødvendig med commonsensisk kunnskap, generell verdenskunnskap?

23 Rammeproblemet John McCarthy og Patrick J. Hayes 1969 Opprinnelig knyttet til formell logikk Mer generelt knyttet til problemet med representasjon og resonnering i dynamiske domener Hvordan kan vi unngå å eksplisitt definere hva som (ikke) påvirkes av en gitt handling? Et av de dypeste problemene for AI

24 CYC Prosjekt som forsøker å håndkode consensus reality. Startet av Douglas Lenat i Ontologi med flere hundretusen termer og en kunnskapsbase (KB) med millioner av fakta og regler om verden; common-sense Kritisert for inkonsekvente og mangelfulle ontologiske definisjoner. Det jobbes med å integrere CYC med metoder for maskinlæring og NLP.

25 Ideer for presentasjoner i gruppene Argumentér for og imot hvorvidt turingtesten gir en god indikasjon på om en maskin kan tenke eller ikke. Sammenlikn egenskapene til noen forskjellige chatbots. Gi en analyse av en dialog med en chatbot. (hva fungerer? hva går galt? hvorfor?) Forklar hva som menes med et ekspertsystem. Gi minst ett eksempel på et slikt system og forklar hva det gjør. Hva går Sapir-Whorf-hypotesen ut på? Gi eksempler på evidens for og imot denne hypotesen. Hva går symbolsystemhypotesen ut på? Hvilke meritter ligger til grunn for at John von Neumann blir kalt den moderne computerens far? Forklar hvordan Babbages analytiske motor fungerte. Hva var spesielt med Babbages maskin i forhold til tidligere forsøk på å skape en computer? Man skiller gjerne mellom to skoler innenfor kunstig intelligens: En som legger hovedvekt på indre prosesser og en som legger hovedvekt på ytre atferd og funksjonalitet. Diskuter de to retningene (gi gjerne eksempler på programmer, forskere, påstander, etc. fra de to "leirene"). Hva menes med rammeproblemet? Gi en historisk oversikt over utviklingen av datamaskiner mht hvor raske de er og hvor stort lager de har. Gi en kort presentasjon av CYC. Gi eksempler på kritikk av prosjektet.

26 Ideer for presentasjoner i gruppene (HRJ) Hva er en turingmaskin og hvilken betydning har den hatt for utviklingen av kunstig intelligens? Forklar P ikke lik NP. (Cooks formodning). Gi forbindelse til travelling salesmans problem. Ukebladet TIME hadde en oversikt over de 100 mest fremtredende vitenskapsmenn i forrige århundre. Der var både Alan Turing og Kurt Gödel med. Hva er de kjent for der? Hvorfor- og når- er"gyldighet" enklere enn "sannhet"? Beskriv noen syntaktiske kalkyler fra AI. Hvordan passer Mary Shelleys "Frankenstein" inn i vår beskrivelse av "den mest avanserte teknologi"? Gi forbindelsen mellom kontekstfrie språk og stakkautomater (pushdown automater). Gi en oversikt over debatten rundt universalspråk og universelle klassifikasjoner rundt år En endelig automat er en digital maskin med endelig hukommelse. Hvordan samsvarer dette med en endelig automat som en turingmaskin som bare beveger seg i en retning. Hvilke utfordringer møter vi i maskinoversettelse fra et språk til et annet?

27 (xkcd.com)