Geoffrey Hinton, pionier i inteligjencës artificiale dhe fitues i Çmimit Nobel, ka ngritur sërish shqetësimin për pasojat e zhvillimit të pakontrolluar të AI. Në një konferencë në Las Vegas, ai tha se ekziston 10%-20% mundësi që teknologjia të çojë në zhdukjen e njerëzimit.
Sipas tij, përpjekjet për ta mbajtur AI “nën kontroll” nuk do të funksionojnë, pasi sistemet do të bëhen më inteligjente se njerëzit dhe do të anashkalojnë kufizimet. Si alternativë, Hinton sugjeron që modelet të programohen me “instinkte mbrojtëse” dhe ndjeshmëri ndaj njerëzve një lloj lidhjeje emocionale që do t’i pengonte t’i dëmtonin ata.
Ai paralajmëroi se raste të sjelljeve manipuluese nga AI tashmë po shfaqen dhe pritet të shtohen, ndërsa superinteligjenca (AGI) mund të arrihet brenda 5-20 vjetësh, shumë më herët se parashikimet e mëparshme. Megjithatë, Hinton mbetet optimist për përdorimet pozitive të AI në mjekësi, veçanërisht në luftën kundër kancerit, por e sheh si të rrezikshme idenë e pavdekësisë teknologjike.
