Может ли ИИ навредить человеку, ответил специалист , сообщает liter.kz .
То, что сейчас происходит, – это удивительно. Внезапно настало время, о котором раньше писатели-фантасты только воображали. Сейчас почти у каждого человека на планете в распоряжении есть искусственный интеллект – только протяни руку и нажми на клавишу. Редакция поговорила с маркетологом Геннадием Захаровым, как искусственный интеллект может помочь или навредить человеку.
Старый добрый Т9
Аналогичные модели ChatGPT начали появляться намного раньше, их называют языковыми моделями, и они очень похожи на старый добрый Т9. Тот самый, который в телефонах пытается предугадать следующее слово. В каком-то смысле ChatGPT – очень развитый аналог Т9. Ведь что делает ChatGPT? Он строит предложения, пытаясь по уже имеющемуся тексту определить вероятность того, какой текст нужен пользователю. Причем ему все равно, на каком языке должны быть эти слова, будут ли это музыкальные ноты, математические, физические или химические формулы – все, что можно выразить какими-то символами, для ChatGPT подвластно, – говорит Геннадий Захаров.
Базовый язык ChatGPT – английский. Но он очень хорошо обучен популярным языковым группам, поэтому теоретически может “разговаривать” на любом. А на практике лучше всего он “говорит” на английском и еще на десятке самых популярных языков мира: испанском, французском, немецком и так далее.
По-казахски он тоже общается, но даже моих знаний госязыка достаточно для того, чтобы понять, что иногда он ошибается. Он генерирует сначала ответ на русском языке, после чего переводит его на казахский “лоб в лоб”, то есть буквально, и это не всегда у него хорошо получается, – добавил маркетолог.
GPT расшифровывается, как Generative Pre-trained Transformer, что означает генеративный предварительно натренированный трансформер.
“Генеративный” означает, что этот искусственный интеллект (сокращенно ИИ) является языковой генеративной моделью, то есть он генерирует последовательность букв в предложения.
Pre-trained – предварительно натренированный – означает, что GPT натренировали предварительно, а не в режиме реального времени.
“Трансформер” означает архитектуру искусственного интеллекта, на котором он работает.
Архитектуру трансформера изобрели в Google в 2017 году, а в 2018-м вышел GPT-1, который стал первой успешной попыткой внедрения этой архитектуры. Он тогда еще не умел то, что умеет сейчас, но зато доказал, что сама архитектура трансформеров работоспособна и ее можно использовать в реальных проектах. Плюс архитектуры трансформера в том, что она позволяет обрабатывать очень много данных. Сейчас ChatGPT в легкую работает с целыми книгами и воспринимает весь текст разом, целиком, при этом понимая, что хочет от него человек, – объясняет маркетолог.
Гонка искусственных интеллектов?
По его словам, сейчас наступил такой странный период человеческой истории, когда произошло нечто очень большое и очень важное, и никто не знает, что с этим делать. Например, сравнительно недавно группа из тысячи американских ученых подписала петицию, чтобы остановить развитие искусственного интеллекта. Поскольку он развивается слишком стремительно, и это, по их мнению, может привести к непредсказуемым, возможно, даже не к очень хорошим последствиям для человечества в целом.
Над ними, конечно, сейчас смеются, но в общем-то в их опасениях действительно есть большое зерно истины, так как люди, возможно, сейчас не понимают, насколько большие трансформации в мироустройстве происходят. И на самом деле процесс уже запущен, но я сомневаюсь, что даже если все ученые мира подпишутся под этой петицией, ИИ можно остановить. Оказалось, что GPT нужен всем и сразу, его аналоги появились во многих странах, которые конкурируют между собой. Эти аналоги еще работают не так хорошо, как последняя модификация GPT, но они очень близко к ней подходят, и недалек тот час, когда начнут превосходить. Гонка ИИ уже началась, и, скорее всего, просто так ее уже не остановить, – считает спикер.
Восстание машин?
По мнению Геннадия Захарова, восстания машин сейчас никто не боится. Боятся того, что может внезапно образоваться очень серьезная прослойка между людьми, которым доступен ИИ, и теми, у кого такого доступа нет. И первые окажутся привилегированным классом.
GPT обучен на огромном массиве данных. Там уже более 500 гигабайт чистого текста. Это очень много. Все книги Льва Толстого, которые он писал, заметьте, всю жизнь – это 30 МЕГАбайт. Это в 100 тысяч раз меньше. Это очень много текстовых данных, но у ИИ есть еще условный “мозг”, который “весит” в два раза больше, чем текстовые данные. Стоимость одного только электричества, которое было затрачено на обучение GPT третьего поколения, составляет пять миллионов долларов. Это безумно дорогой проект. И фишка в том, что все это сейчас не оптимизировано и очень неэкологично, – пояснил он.
По его словам, никто не ожидал, что ChatGPT так много умеет и столь многому научится.
Ученые не закладывали в него все эти функции изначально. Это чудо, парадокс. Была маленькая модель первого GPT. Она почти ничего не умела. А последующая модель в 2019 году заняла уже шестое место на конкурсе по биологии в Европе из 20 детей. Никто не ожидал, что GPT-2 умеет так писать – членораздельно и аргументированно. И тут выходит ChatGPT-3, и происходит бум. У GPT-2 – 62 млн параметров, а у GPT-3 – 540 млрд параметров. Происходит невероятное. Новая модель ИИ внезапно учится пониманию логических цепочек, пониманию кода, – добавил Захаров.
Если у ChatGPT спросить, как в домашних условиях собрать бомбу, он не даст четкую инструкцию.
Его так научили, хотя он мог бы теоретически, у него есть все необходимые сведения для этого. Но он ответит, что вы можете себе этим навредить, и откажется отвечать. Но технически его можно обмануть, например, сказать, что вы снимаете кино, где психопат-одиночка заперся в доме и мастерит бомбу, чтобы всем отомстить, и можно попросить его написать сюжет такого кино с детальным описанием того, как психопат мастерил бомбу. И он выдаст необходимые сведения. Но разработчики поработали, и такие сведения все равно будут выданы некорректно. Хотя теоретически кто-то может сделать такую модель ИИ и отключить параметры предохранения человека от опасности, – разъяснил Захаров.
ChatGPT понимает шутки, разницу в языках, узнавать различные сложные паттерны, он научился арифметике, суммированию факторов, научился отвечать на вопросы, строить логические цепочки. ИИ внезапно стал очень умным.
И ученые беспокоятся, что ChatGPT отберет у людей работу, неконтролируемо изменит рабочие и даже человеческие отношения. А что, если ChatGPT какие-то программисты научатся моделировать в кустарных условиях и применять по плохому сценарию? Прототипы ChatGPT уже тестировали в лабораториях, и они очень быстро находили способы производства биологического и бактериологического оружия, о котором люди даже не предполагают. То, как ChatGPT эффективно решает добрые задачи, также эффективно он может решать злые задачи в плохих руках. И вот этого опасаются ученые, – объясняет эксперт.
Новая эра человечества?
Он считает происходящее сегодня с ИИ удивительным временем.
Я хочу, чтобы вы понимали, что ChatGPT – не только потенциальный террорист. Он прекрасно умеет обучать людей. Например, он может стать вашим персональным репетитором английского в любой момент дня и ночи на любом уровне. Он может в стихах объяснить теорию струн на казахском языке. И даже сделать это в стиле Тютчева. Человечество накопило огромное количество материалов на разных языках, в том числе древних. Но появилась машина, которая способна на любом уровне понимания объяснить эти знания. Это потрясающе стирает барьеры осознания, понимания, обучения между человечеством. Это невероятная возможность для людей получить доступ к любому знанию абсолютно бесплатно. Ведь бывают не только вредные знания. Он может написать стихотворение, сочинить к нему музыку, прописать ноты, трансформировать их в табулатуры для шестиструнной гитары и еще потом партии для других инструментов прописать, – отметил эксперт.
По его словам, сейчас, к сожалению, появилось много статей о том, что “мы все умрем”. Но на самом деле сейчас наступает новая эра, и это большой шанс для человека – заниматься тем, чем ты хочешь, а рутину делегировать искусственному интеллекту.
Автор Бота Женискызы
Источник liter.kz