Великий соблазн chatgpt

visibility 51
11 Фев в 02:03

До недавнего времени наши отношения с генеративным искусственным интеллектом были безоблачными. Энтузиасты создавали картинки с помощью нейросетей, таких как DALL-E или Midjourney, мир глядел на эти картинки, поражался растущему мастерству, художники и дизайнеры задумчиво хмыкали, но это никак не сказывалось на жизни обычных граждан. Игра в генерацию была развлечением, а нейросети воспринимались скорее как цирковые собачки, владеющие разными трюками нам на радость.

В ноябре 2022 года кое-что поменялось. Компания OpenAI выпустила в общий доступ программу-бот ChatGPT, и многие ощутили себя в роли героев сериала «‎Игра в кальмара»‎, которые вдруг осознали, что это вовсе не игра. Эксперты чуть ли не в один голос говорят, что программы, подобные ChatGPT, перевернут сферы образования, науки и информационных технологий. Если слово «‎перевернут‎»‎ кажется чересчур сильным, замените его на «‎преобразуют‎»‎. В любом случае чистые развлечения закончились.

Как учить людей

На первый взгляд, не случилось ничего особенного. Ещё за год до того, в ноябре 2021-го, OpenAI выпустила в свет GPT-3 – программу генерации текста, обучив её на огромном массиве книг, статей википедии, новостей и даже на программном коде. У этой сети 175 миллиардов параметров, она умеет переводить, сочинять тексты в любом жанре, отвечать на вопросы и даже шутить. Уже тогда она впечатляла, но ChatGPT создан на основе расширенной версии GPT-3 и оптимизирован для диалога.

Дело в том, что ChatGPT умеет все то же, но гораздо лучше.

И, кажется, мы наблюдаем переломный момент. ChatGPT открыт для всех, с ним экспериментируют миллионы людей со всего мира, дают боту самые разные каверзные задания, проверяя его возможности. О нём пишут все ведущие СМИ, а социальные сети заполнены разнообразными примерами его ответов.

Перелом здесь в том, что ChatGPT выдаёт структурированные грамотные тексты, которые выглядят логично, убедительно и чрезвычайно правдоподобно. Если вы задали ChatGPT вопрос по квантовой механике, то, не будучи экспертом, вряд ли разберётесь, пишет ли бот чепуху. Он приведёт цифры, факты, гипотезы, сошлётся на источники, а его текст в целом будет выглядеть стройно и неотличимо от сочинений экспертов.

Если попросить – ChatGPT напишет эссе на заданную тему, поэму, научную статью, сценарий или даже компьютерную программу. И всё это не хуже живых авторов, пожалуй, даже выше среднего. Именно это обстоятельство и переводит «‎игру‎»‎ на новый уровень.

Школьники и студенты сразу уловили намёк. Учителя во все времена держали в уме, что ученики могут списывать, но теперь любое задание на дом не имеет смысла – ChatGPT справится с любым, причём на хорошую оценку. NY Times пишет, что университеты встревожены и уже начинают пересматривать свои методики, включая в курсы «‎больше устных экзаменов, групповой работы и рукописных тестов вместо печатных»‎‎.

Более 6000 преподавателей из Гарварда, Йеля и других университетов подписались на использование GPTZero – программы, которая якобы выявляет сгенерированный ИИ текст. Однако все согласны, что это не панацея. Как отозвался о ChatGPT Джо Гловер, проректор Университета Флориды: «Это не последняя инновация, с которой нам придётся иметь дело». Предстоит изменить способ, которым люди учат людей.

«‎Сгенерированный текст – это то, к чему нам всем нужно адаптироваться. Мы адаптировались к калькуляторам и изменили то, что мы тестируем на уроках математики. ChatGPT – более экстремальная версия, без сомнения. Но и преимущества также более экстремальны».

Недавно ChatGPT сдал экзамены по праву на четырёх курсах в Университете Миннесоты и ещё один экзамен по основному курсу MBA (Master of Business Administration) в Уортонской школе бизнеса Пенсильванского университета. Впору задуматься, как учить людей тому, с чем будущие поколения ИИ будут справляться лучше нас. Сегодня человек не в силах выиграть у машины в шахматы, завтра он без шансов проиграет ей, скажем, в адвокатуре.

Генеративная революция

Языковые модели проникнут всюду, где знание представлено в форме текста, так что помимо образования они «‎преобразуют»‎‎ и науку. ChatGPT открыт для всех всего пару месяцев, но уже числится автором реальных научных публикаций. Алекс Жаворонков, исследователь в области биотехнологий, опубликовал в научном журнале Oncoscience статью, которая почти целиком состоит из текста, сгенерированного ChatGPT. В статье чат-бот приводит аргументы «‎за‎»‎ и «‎против»‎‎ приёма иммунодепрессанта рапамицина и стоит её первым автором.

Это могло быть шуткой, но ChatGPT пугающе хорош в генерации текстов, хотя – по общему мнению – не имеет понятия, о чём пишет. Ведущие журналы Nature и Science уже заверили, что не позволят включать в число авторов языковые модели, ибо те «‎не могут нести ответственность за содержание и достоверность научных статей»‎‎. Недавно ICML, основная конференция по машинному обучению, объявила о запрете статей, содержащих текст, полностью написанный с помощью языковой модели.

Запреты и оборонительная стойка – пока первая реакция научного сообщества. Ведь учёные общаются статьями, а языковые модели склонны к «‎галлюцинациям»‎‎, то есть зачастую генерируют в тексте фейковые факты и события, стремясь лишь к внешнему правдоподобию. Они даже могут дать правильный ответ и указать неверно его причину. Если в статьи учёных вклинится ИИ – мастер имитации, не понимающий сути вещей, – то доверие к научным публикациям будет подорвано.

Звучит как разумный довод против, однако запреты лишь отодвигают неизбежное. Генеративная революция свершается у нас на глазах, и те, кто стремится оградить научные тексты от участия ИИ, похожи на убеждённых сторонников немого кино в эпоху звуковой революции конца 1920-х, когда появились первые фильмы с говорящими актёрами.

Учёные будут использовать программы типа ChatGPT, потому что это удобно. Писать научную статью отнимает много сил и времени, а чат-бот способен взять на себя рутину. Авторам останется проверить факты и вычистить формулировки. Программисты уже используют языковые модели для написания кода, запрашивая ChatGPT, AlphaCode или специальную программу Copilot, и это здорово ускоряет их работу. Люди успевают сделать больше.

Не случайно Сэмюэл Альтман, СЕО OpenAI, говорит об «‎экстремальных преимуществах». Взрыв продуктивности – это то, что потенциально обещает генеративная революция. Запреты её не остановят. Ещё один штрих переломного момента: на днях компания Microsoft подтвердила, что сделает «многомиллиардные инвестиции» в OpenAI, и, по источникам деловых изданий, речь идёт о 10 млрд долларов.

Писатель vs читатель

Даже если языковые модели не мыслят, они умеют то, что сильно облегчит труд создателям текстов. Писатели уже прибегают к помощи программ, чтобы делать наброски сюжетных линий, сеттингов, описания персонажей. Учёные не избегут сотрудничества с ИИ, уж больно велик соблазн, так что можно ожидать взлёта научной литературы, написанной людьми совместно с генеративными моделями.

Однако ИИ будет помогать учёным не только писать статьи, но и читать их, вычленяя главные идеи, создавая модели и предлагая гипотезы. И даже адаптировать текст под уровень конкретного читателя. Так, шаг за шагом, мы придём к отмиранию самого формата статьи. Если один ИИ пишет то, что затем читает другой ИИ, то общение между ними рано или поздно эволюционирует в некие иные формы.

Правда, даже без оглядки на чат-боты, статья как единица научного знания постепенно изживает себя. Ни один учёный уже физически не в состоянии отследить и изучить все важные публикации даже по его узкой теме – их просто слишком много. Знания всё больше оседают на дно в виде текстов, которые почти никто, кроме авторов и рецензентов ,не читал. Прочесть их все как раз способен ИИ, но какое «‎понимание»‎‎ он оттуда извлечёт – мы вряд ли сможем проконтролировать.

Что будет с наукой в этом случае?

В ней станет больше неявного знания. Больше принципов и формул, которые отлично работают, но не до конца ясно, почему. В итоге генеративные модели усилят возможности науки, как в ХХ веке её усилили компьютеры, но перед учёными встанет вопрос, как не утратить понимание картины мира. И это главный риск прихода ИИ в науку.

С тех пор как пять тысяч лет назад возникла письменность, люди выражают и передают главные идеи через тексты. Мы всегда считали сложный язык своей привилегией, выделяющей человека из природы. Сегодня мы входим в новую эпоху, когда источник хорошего текста может не быть человеком. На Земле появился новый автор.

Отыграть назад уже не удастся, так что гораздо продуктивнее думать о том, как обратить это себе на пользу. Повторим мысль Альтмана: «‎Сгенерированный текст – это то, к чему нам всем нужно адаптироваться‎»‎. Развлечение картинками было лишь прелюдией.



Оставить комментарий

Ваше имя::


Комментарий::




Ничего не найдено