«Представьте, как его может использовать путин»: создатель нейросети заявил об опасности искусственного интеллекта и уволился из Google
Всемирно известный ученый Джеффри Хинтон, которого по праву называют «крестным отцом искусственного интеллекта» (ИИ), дал интервью BBC. 75-летний компьютерный гений объявил о своем увольнении из корпорации Google. Он подчеркнул, что это решение позволяет ему теперь публично и открыто говорить об опасностях ИИ и технологий, связанных с его развитием.
Хинтон опасается, что ИИ-технологии попадут в руки злоумышленников, которые с их помощью будут делать «плохие вещи».
«Вот самый пессимистичный сценарий. Самый кошмарный прогноз. Представьте себе, например, что какой-нибудь преступник вроде путина решит дать роботам возможность создавать свои собственные подзадачи. Например, мне нужно усилить свою власть», — сказал Хинтон.
Ученый также признал, что отчасти сожалеет о проделанной работе в области развития искусственного интеллекта.
«Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — сказал Хинтон.
Он уверен в том, что человечеству следует всерьез опасаться той скорости, с которой ИИ-технологии развиваются. В первую очередь речь идет о чат-ботах.
«Они пока еще не настолько интеллектуально развиты, как мы. По крайней мере, насколько мне известно. Но я думаю, что скоро они могут нас догнать… Уже сейчас мы видим, что такие системы, как GPT-4, затмевают человека по общей эрудиции, причем с большим перевесом. В том, что касается логического осмысления, она еще отстает, но на простые рассуждения она уже способна», — отметил ученый.
«Мы являемся биологическими системами, а здесь речь идет о цифровых. И огромная разница заключается в том, что у цифровых систем может быть множество копий с одними и теми же исходными составляющими. Все эти копии могут учиться отдельно друг от друга, а потом мгновенно обмениваться новыми знаниями. Представьте, если бы каждый из 10 тысяч человек узнавал что-то новое, и тут же все 10 тысяч автоматически получали это знание. Вот почему эти чат-боты могут знать намного больше, чем отдельно взятый человек», — объяснил Хинтон, почему искусственный интеллект учится с такой большой скоростью.
При этом ученый заявил, что руководство Google относится к проблеме ответственно. Он не хочет бросать тень на компанию.
Отставка Хинтона, подчеркивает BBC, добавляет силы тем, кто в последнее время публично выражает тревогу в связи со скоростью развития ИИ-технологий. Недавно открытое письмо на эту тему обнародовала группа западных экспертов. Под ним подписались Илон Маск и сооснователь Apple Стив Возняк. Авторы письма предупреждают о целом ряде опасностей — от распространения дезинформации до лишения людей работы и даже потери контроля над цивилизацией.
Ранее «ФАКТЫ» рассказывали о скандале на престижном международном фотоконкурсе Sony World Photography Award в апреле нынешнего года. Фотохудожник из Германии признался, что представленная им работа была создана искусственным интеллектом, и отказался от награды.
1334Читайте нас в Facebook
