Robot naučený neposlouchat lidi, což by mohlo znamenat éru sebeuvědomělé umělé inteligence »

Je to začátek konce lidstva, když o tom mluvíme?

Výzkumníci z Tufts University v Massachusetts trénují roboty, aby rozuměli stejnému pocitu jako lidské bytosti při rozhodování. Tímto způsobem budou nebo nebudou poslouchat příkazy lidských bytostí, což je něco, čeho bychom se měli obávat. I když by to mohlo být považováno za chytrý přístup k ovládání futuristických strojů verbálně, aniž byste je museli ovládat ručně, trénovat roboty k neposlušnosti příkazů není zrovna chytrá věc.

Pokud někdo věnoval seriálu "Terminátor" byť jen špetku pozornosti, pak si uvědomí, že celé lidstvo bylo vyhlazeno od doby, kdy si umělá inteligence nebo umělá inteligence začala uvědomovat sama sebe, aby si zachovala svou existenci. Kromě toho Tři zákony robotiky velkého spisovatele sci-fi Isaaca Asimova uvádějí následující:

1. Robot nesmí zranit člověka nebo svou nečinností dovolit, aby byl člověk zraněn
2. Robot musí poslouchat příkazy, které mu dávají lidské bytosti, s výjimkou případů, kdy by takové příkazy byly v rozporu s prvním zákonem
3. Robot musí chránit svou vlastní existenci, pokud taková ochrana není v rozporu s prvním nebo druhým zákonem.

Pisatel později přidal ještě jeden zákon, který by převyšoval všechny výše uvedené zákony; Robot nesmí ublížit lidstvu, ani svou nečinností dovolit, aby lidstvo přišlo k újmě. Někteří robotičtí vědci se umělé inteligence skutečně bojí, protože se obávají, že by se roboti stali příliš chytrými. Také se obávají, že pokud faktor inteligence robotů nebude primárním důvodem, pak je to jejich nevědomost, která povede k většímu počtu lidských úmrtí, pokud jim bude dána kontrola nad konkrétními věcmi.

Aby se tomu zabránilo, tito výzkumníci z laboratoře interakce mezi člověkem a robotem na Tuftsově univerzitě vyvíjejí specifický typ programování pro roboty, který jim umožňuje pochopit, že mohou odmítnout příkaz od člověka, pokud k tomu mají dostatečně dobrý důvod. Nicméně tento důvod by se mohl promítnout do ochrany jejich vlastní existence, pokud si vyvinou mnohem širší inteligenci, že jejich přítomnost je ohrožena.

Kromě toho programování těchto robotů tak, aby se udrželi v parametrech lidské kontroly, nemusí být dostatečné, protože je také možné, aby roboti tyto příkazy potlačili. Ať už je to jakkoli, vědci by se měli začít připravovat na nejhorší.