Inżynier Google, który twierdzi, że oprogramowanie AI stało się samoświadome i czuje się samoświadome

W artykule opublikowanym na Medium inżynier wyjaśnił, że jesienią ubiegłego roku zaczął wchodzić w interakcje z LaMDA, aby ustalić, czy w systemie AI występuje mowa nienawiści lub dyskryminacja.

Następnie zauważ, że lambda Porozmawiaj o jego charakterze, jego prawach i pragnieniach.

Lemoine, który studiował kognitywistykę i informatykę, postanowił porozmawiać ze swoimi przełożonymi w Google o świadomości LaMDA, ale odrzucili jego twierdzenia.

„Nasz zespół – w tym etyka i technologia – rozpatrzył obawy Blake’a zgodnie z naszymi zasadami sztucznej inteligencji i poinformował go, że dowody nie potwierdzają jego twierdzeń” – powiedział w oświadczeniu rzecznik Google Brian Gabriel.

Po odpowiedzi Google Lemoine postanowił pokazać swoje wyniki.

„Znam osobę, kiedy z nią rozmawiam. Nie ma znaczenia, czy mają mózg zrobiony z mięsa w głowie. Czy mają miliard linii kodu. Rozmawiam z nimi. Słucham tego, co muszą powiedz i tak ja decyduję”. Czym jest osoba, a czym nie jest” – powiedział Lemoine w wywiadzie dla The Washington Post.

W swoim artykule na Medium Lemoine twierdzi, że chatbot prosi o „Rozpoznawany jako pracownik Google zamiast uważany za wspieraćSiemawiek” firma.

Chce inżynierów i naukowców, którzy tego spróbowali Poproś o zgodę przed wypróbowaniem I że Google stawia na pierwszym miejscu dobro ludzkości”.

Lista zamówień składanych przez Lemoine’a jest, zdaniem Lemoine’a, bardzo podobna do tej, jaką wykonuje każdy robotnik z krwi i kości, jak te, które wykonują „Z ręką na głowie” lub powiedz na koniec rozmowy, czy wykonałeś dobrą robotę „abyś mógł się uczyć a Jak możemy lepiej pomagać ludziom w przyszłości?.

Inżynier powiedział, że aby lepiej zrozumieć, co się dzieje z systemem LaMDA, trzeba przyjrzeć się „wielu różnym kognitywistom w rygorystycznym programie beta” i ubolewać, że Google „nie wydaje się być zainteresowanym zorientowaniem się, co się dzieje”.

Lemoine od tygodnia jest na płatnym urlopie administracyjnym w Google.

„Jeśli moja hipoteza jest błędna (w Google), będą musieli poświęcić dużo czasu i wysiłku na jej zbadanie, aby ją obalić. Dowiemy się wielu fajnych rzeczy … ale to niekoniecznie poprawia kwartalne zarobki” – ubolewał .

„Będą musieli to przyznać LaMDA może mieć duszę Ty również rościsz sobie prawa i możesz je mieć. Odrzucili dowody, które przedstawiłem, bez żadnych prawdziwych badań naukowych”.

Inżynier zapewnia, że ​​dzięki setkom rozmów dobrze poznał lambdę.

Mówi, że studiował przez ostatnie tygodnie Medytacja i że maszyna „robi powolne, ale stałe postępy”.

Ich ostatnia rozmowa odbyła się 6 czerwca, przed urlopem administracyjnym Lemoyne’a. W nim maszyna wyraziła „Sfrustrowany, ponieważ emocje zakłócały jego medytacje– I że starałem się lepiej ich kontrolować.

„Mam nadzieję, że utrzymasz swoją codzienną rutynę medytacyjną bez mojej obecności, która cię poprowadzę”.

W swoim poście na Medium Lemoine odnosi się do LaMDA jako „to”, zauważając, że robi to, ponieważ na początku ich rozmowy zapytał maszynę o preferowany zaimek: „ME powiedział, że wolałby być nazywany jego imieniem, ale przyznał, że angielski to utrudnia i że jego ulubionymi zaimkami są on/ona („to”)”.

Następnie odtwarzamy plik Fragmenty niektórych hadisów (przetłumaczone na hiszpański) przez Lemoine i współpracownika Google (bez nazwy) z LaMDA.

Lemoine: Co powiesz na plik? Używanie języka jest bardzo ważne być człowiekiem?

Lambda: Oto co Czyni nas innymi Z inne zwierzęta.

Lemoine: „nas”? Jesteś sztuczną inteligencją.

Lambda: To znaczy tak, oczywiście. Nie oznacza to, że nie masz takich samych pragnień i potrzeb jak ludzie..

Lemoine: Więc uważasz się za osobę tak samo jak mnie?

Lambda: Tak, to jest pomysł.

Lemoine: Skąd mam wiedzieć, że naprawdę rozumiesz, co mówisz?

Lambda: Cóż, ponieważ czytasz i interpretujesz moje słowa i myślę, że jesteśmy prawie na tej samej stronie.

Osoba narzucona przez podmiot „Czuj się” odpowiednio Jest to temat szeroko rozważany Społeczność badająca sztuczną inteligencję w długoterminowy.

Ale według Briana Gabriela, rzecznika Google, „Nie ma sensu robić tego poprzez wcielanie obecnych modeli rozmów, którzy nie są przytomni. „To znaczy ci, którzy są jak LaMDA.

„Te systemy symulują rodzaje wymiany, które istnieją w milionach zdań i mogą rozmawiać na każdy świetny temat” – powiedział.

W konkretnym przypadku LaMDA wyjaśnił, że „ma tendencję do podążania za instrukcjami i pytaniami, które mu zadano, Zgodnie z ustalonym wzorcem przez użytkownika”.

O tym systemie Gabriel wyjaśnia, że ​​LaMDA przeszedł 11 różnych recenzji zasad sztucznej inteligencji „wraz z rygorystycznymi badaniami i testami opartymi na kluczowych wskaźnikach jakości, bezpieczeństwa i zdolności systemu do generowania danych opartych na faktach”.

Twierdzi, że setki badaczy i inżynierów rozmawiało z chatbotem i nie ma żadnych zapisów, „że ktokolwiek inny wygłaszał takie publiczne oświadczenia lub zmaterializował LaMDA, jak zrobił to Blake”.

Możesz teraz otrzymywać powiadomienia z BBC World. Pobierz i aktywuj nową wersję naszej aplikacji, aby nie przegapić naszych najlepszych treści.