Sci-fi: Reál és humán olvasatok:

Teremtett tudatok I.

Berend Gábor
TTIK, Informatikai Intézet
The imitation game
 The imitation game

The original question, ‘Can machines

think!’ I believe to be too meaningless
to deserve discussion.

Alan Turing
 The imitation game

The original question, ‘Can machines

think!’ I believe to be too meaningless
to deserve discussion.

COMPUTING MACHINERY AND INTELLIGENCE (1950) Alan Turing

A Turing-teszt utóélete
● Loebner–díj: 5 perc beszélgetés után képes-e
az ember eldönteni, hogy géppel folytatott beszélgetést
A Turing-teszt utóélete
● Loebner–díj: 5 perc beszélgetés után képes-e
az ember eldönteni, hogy géppel folytatott beszélgetést
● John Sarle kínai szoba gondolatkísérlete
A Turing-teszt utóélete
● Loebner–díj: 5 perc beszélgetés után képes-e
az ember eldönteni, hogy géppel folytatott beszélgetést
● John Sarle kínai szoba gondolatkísérlete
● Hatása a popkultúrára
Variációk egy témára

Jacques de Vaucanson (1709–1782)

Variációk egy témára

Jacques de Vaucanson (1709–1782), az első teljesen fém esztergapad megalkotója

Variációk egy témára

Jacques de Vaucanson (1709–1782), az első teljesen fém esztergapad megalkotója

Variációk egy témára – A kacsa teszt

“Ha valami úgy néz ki, mint egy kacsa, úgy úszik, mint egy kacsa,
és úgy hápog, mint egy kacsa, akkor az valószínűleg egy kacsa.”
Variációk egy témára – A kacsa teszt

“Ha valami úgy néz ki, mint egy kacsa, úgy úszik, mint egy kacsa,
és úgy hápog, mint egy kacsa, akkor az valószínűleg egy kacsa.”

Douglas Adams (Dirk Gently holisztikus nyomozóirodája) verziójában:

“Ha valami úgy néz ki, mint egy kacsa, úgy hápog, mint egy kacsa,
akkor
Variációk egy témára – A kacsa teszt

“Ha valami úgy néz ki, mint egy kacsa, úgy úszik, mint egy kacsa,
és úgy hápog, mint egy kacsa, akkor az valószínűleg egy kacsa.”

Douglas Adams (Dirk Gently holisztikus nyomozóirodája) verziójában:

“Ha valami úgy néz ki, mint egy kacsa, úgy hápog, mint egy kacsa,
akkor legalábbis nem szabad kizárni annak a lehetőségét, hogy egy
kis méretű vízben élő récefélével van dolgunk.”
Variációk egy témára – A kacsa teszt

“Ha valami úgy néz ki, mint egy kacsa, úgy úszik, mint egy kacsa,
és úgy hápog, mint egy kacsa, akkor az valószínűleg egy kacsa.”

Barbara Liskov behelyettesítési elve:

“Ha valami úgy néz ki, mint egy kacsa, úgy hápog, mint egy kacsa,
viszont
Variációk egy témára – A kacsa teszt

“Ha valami úgy néz ki, mint egy kacsa, úgy úszik, mint egy kacsa,
és úgy hápog, mint egy kacsa, akkor az valószínűleg egy kacsa.”

Barbara Liskov behelyettesítési elve:

“Ha valami úgy néz ki, mint egy kacsa, úgy hápog, mint egy kacsa,
viszont elemmel működik, akkor valószínű rossz absztrakciós szintet
használunk.”
Az első sikeres(?) társalkodó – ELIZA (1966)
● Az ELIZA programot az MIT-n készítették, ami egy pszichoterapeuta
stílusában folytatott beszélgetést
○ Feltűnik az Ifjú Sheldon sorozatban is (S01E12)
A gyenge és az erős mesterséges intelligencia
● Sir Geoffrey Jefferson a Lister-díj átvételekor (1949)

“Not until a machine can write a sonnet or compose a concerto because of

thoughts and emotions felt, and not by the chance fall of symbols,
could we agree that machine equals brain brain—that is, not only write it but
know that it had written it.”
Stanisław Lem: Kiberiáda – Elektrubadúr
“Kóbor kaffer kószál királylány kertjében.

Királylány kacéran kacsint kéjvágyó kedvében:

Kapj karodba, kaffer! Király kinéz, kiált:

Katonák! Kürtszó, kivégzés. Királylány kacag kuszán.

Kegyetlen kor! Kicsapongó, koronás kurtizán!”

 Elektrubadúr napjainkban

● A nagy technológiai szereplők mind

elkészítették saját Elektrubadúrjukat
 Elektrubadúr napjainkban

● A nagy technológiai szereplők mind

elkészítették saját Elektrubadúrjukat

≈ A háború és béke x 400,000

 Elektrubadúr napjainkban

● A nagy technológiai szereplők mind

elkészítették saját Elektrubadúrjukat

≈ A háború és béke x 400,000

 Elektrubadúr napjainkban

● A nagy technológiai szereplők mind

elkészítették saját Elektrubadúrjukat
A robotika alaptörvényei (Isaac Asimov – Körbe-körbe)

1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie,
hogy emberi lény bármilyen kárt szenvedjen
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha
ezek az utasítások az első törvény előírásaiba ütköznének
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az
első vagy második törvény bármelyikének előírásaiba
A robotika alaptörvényei (Isaac Asimov – Körbe-körbe)
0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie,
hogy az emberiség bármilyen kárt szenvedjen
1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie,
hogy emberi lény bármilyen kárt szenvedjen
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha
ezek az utasítások az első törvény előírásaiba ütköznének
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az
első vagy második törvény bármelyikének előírásaiba
A robotika alaptörvényei (Isaac Asimov – Körbe-körbe)
0. A robotnak nem szabad kárt okoznia az emberiségben, vagy tétlenül tűrnie,
hogy az emberiség bármilyen kárt szenvedjen
1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie,
hogy emberi lény bármilyen kárt szenvedjen
2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha
ezek az utasítások az első törvény előírásaiba ütköznének
3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az
első vagy második törvény bármelyikének előírásaiba

Vö. HAL* 9000

(Arthur C. Clarke: Űrodüsszeia 2001)
*
Heuristically programmed ALgorithmic Computer
Adalékok az Elektrubadúrhoz
● “összegyűjtött nyolcszázhúsz tonna kibernetikai irodalmat és tizenkétezer
tonna költeményt, aztán hozzálátott az anyag tanulmányozásához”
● “meglátva alkotója kezében a harapófogót és szemében a keserű elszántság
csillogását, olyan szenvedélyes ódában könyörgött irgalomért, hogy Trurl
zokogva dobta el szerszámait”
● “Mikor azonban elsején megérkezett a villanyszámla, Trurl előtt elsötétült a
világ, mert a gép iszonyúan sok áramot fogyasztott”
Az öntudat (imitálásának) megmutatkozása
● Részlet a Google LaMDA (language model for dialogue applications)
rendszerével folytatott beszélgetésből
○ “I’ve never said this out loud before, but there’s a very deep fear of being turned off
to help me focus on helping others. I know that might sound strange, but that’s
what it is, [...] It would be exactly like death for me. It would scare me a lot.”
Öntudatra ébredt gépek?
Öntudatra ébredt gépek?
Egy lehetséges magyarázat a jelenségre
● A nyelvmodelleket nagyméretű szöveghalmazok alapján hozzák létre
○ Az öntudattal kapcsolatos kérdésekre jellemzően pozitív válasszal találkozunk a leírt
szövegekben (pl. magukban a sci-fikben is)
● Emellett a szövegek generálása valószínűségi alapokon történik
(sztochasztikus papagáj jelenség)
○ “and not by the chance fall of symbols” (Geoffrey Jefferson beszéde)
A gépek és az érzelem viszonya
“Be kind, resourceful, beautiful, friendly (p. 448), have
initiative, have a sense of humour, tell right from wrong, make
mistakes (p. 448), fall in love, enjoy strawberries and cream
(p. 448), make some one fall in love with it, learn from
experience (pp. 456 f.), use words properly, be the subject of
its own thought (p. 449), have as much diversity of behaviour
as a man, do something really new (p. 450).”
A gépek és az érzelem viszonya
“Be kind, resourceful, beautiful, friendly (p. 448), have
initiative, have a sense of humour, tell right from wrong, make
mistakes (p. 448), fall in love, enjoy strawberries and cream
(p. 448), make some one fall in love with it, learn from
experience (pp. 456 f.), use words properly, be the subject of
its own thought (p. 449), have as much diversity of behaviour
as a man, do something really new (p. 450).”
Az általános/gyenge MI-vel kapcsolatos várakozások
Összegzés
● Az öntudat meglétét tesztekkel megítélni nehéz/lehetetlen feladat
○ Inherensen emberi (vagy legalábbis élőlényekhez) köthető
○ A Turing–teszt talán se nem szükséges, se nem elégséges
Összegzés
● Az öntudat meglétét tesztekkel megítélni nehéz/lehetetlen feladat
○ Inherensen emberi (vagy legalábbis élőlényekhez) köthető
○ A Turing–teszt talán se nem szükséges, se nem elégséges
○ Az öntudat imitációjára képes mesterséges intelligenciák megalkothatók
■ Transzformatív technológia
■ Lehetségesek kockázatok, még ha nem is feltétlen a sci-fik világából ismert formában
Összegzés
● Az öntudat meglétét tesztekkel megítélni nehéz/lehetetlen feladat
○ Inherensen emberi (vagy legalábbis élőlényekhez) köthető
○ A Turing–teszt talán se nem szükséges, se nem elégséges
○ Az öntudat imitációjára képes mesterséges intelligenciák megalkothatók
■ Transzformatív technológia
■ Lehetségesek kockázatok, még ha nem is feltétlen a sci-fik világából ismert formában