В ноябре 2022 года кое-что поменялось. Компания OpenAI выпустила в общий доступ программу-бот ChatGPT, и многие ощутили себя в роли героев сериала «Игра в кальмара», которые вдруг осознали, что это вовсе не игра. Эксперты чуть ли не в один голос говорят, что программы, подобные ChatGPT, перевернут сферы образования, науки и информационных технологий. Если слово «перевернут» кажется чересчур сильным, замените его на «преобразуют». В любом случае чистые развлечения закончились.
Как учить людей
На первый взгляд, не случилось ничего особенного. Ещё за год до того, в ноябре 2021-го, OpenAI выпустила в свет GPT-3 – программу генерации текста, обучив её на огромном массиве книг, статей википедии, новостей и даже на программном коде. У этой сети 175 миллиардов параметров, она умеет переводить, сочинять тексты в любом жанре, отвечать на вопросы и даже шутить. Уже тогда она впечатляла, но ChatGPT создан на основе расширенной версии GPT-3 и оптимизирован для диалога.
Дело в том, что ChatGPT умеет все то же, но гораздо лучше.
И, кажется, мы наблюдаем переломный момент. ChatGPT открыт для всех, с ним экспериментируют миллионы людей со всего мира, дают боту самые разные каверзные задания, проверяя его возможности. О нём пишут все ведущие СМИ, а социальные сети заполнены разнообразными примерами его ответов.
Перелом здесь в том, что ChatGPT выдаёт структурированные грамотные тексты, которые выглядят логично, убедительно и чрезвычайно правдоподобно. Если вы задали ChatGPT вопрос по квантовой механике, то, не будучи экспертом, вряд ли разберётесь, пишет ли бот чепуху. Он приведёт цифры, факты, гипотезы, сошлётся на источники, а его текст в целом будет выглядеть стройно и неотличимо от сочинений экспертов.
Если попросить – ChatGPT напишет эссе на заданную тему, поэму, научную статью, сценарий или даже компьютерную программу. И всё это не хуже живых авторов, пожалуй, даже выше среднего. Именно это обстоятельство и переводит «игру» на новый уровень.
Школьники и студенты сразу уловили намёк. Учителя во все времена держали в уме, что ученики могут списывать, но теперь любое задание на дом не имеет смысла – ChatGPT справится с любым, причём на хорошую оценку. NY Times пишет, что университеты встревожены и уже начинают пересматривать свои методики, включая в курсы «больше устных экзаменов, групповой работы и рукописных тестов вместо печатных».
Более 6000 преподавателей из Гарварда, Йеля и других университетов подписались на использование GPTZero – программы, которая якобы выявляет сгенерированный ИИ текст. Однако все согласны, что это не панацея. Как отозвался о ChatGPT Джо Гловер, проректор Университета Флориды: «Это не последняя инновация, с которой нам придётся иметь дело». Предстоит изменить способ, которым люди учат людей.
«Сгенерированный текст – это то, к чему нам всем нужно адаптироваться. Мы адаптировались к калькуляторам и изменили то, что мы тестируем на уроках математики. ChatGPT – более экстремальная версия, без сомнения. Но и преимущества также более экстремальны».
Недавно ChatGPT сдал экзамены по праву на четырёх курсах в Университете Миннесоты и ещё один экзамен по основному курсу MBA (Master of Business Administration) в Уортонской школе бизнеса Пенсильванского университета. Впору задуматься, как учить людей тому, с чем будущие поколения ИИ будут справляться лучше нас. Сегодня человек не в силах выиграть у машины в шахматы, завтра он без шансов проиграет ей, скажем, в адвокатуре.
Генеративная революция
Языковые модели проникнут всюду, где знание представлено в форме текста, так что помимо образования они «преобразуют» и науку. ChatGPT открыт для всех всего пару месяцев, но уже числится автором реальных научных публикаций. Алекс Жаворонков, исследователь в области биотехнологий, опубликовал в научном журнале Oncoscience статью, которая почти целиком состоит из текста, сгенерированного ChatGPT. В статье чат-бот приводит аргументы «за» и «против» приёма иммунодепрессанта рапамицина и стоит её первым автором.
Это могло быть шуткой, но ChatGPT пугающе хорош в генерации текстов, хотя – по общему мнению – не имеет понятия, о чём пишет. Ведущие журналы Nature и Science уже заверили, что не позволят включать в число авторов языковые модели, ибо те «не могут нести ответственность за содержание и достоверность научных статей». Недавно ICML, основная конференция по машинному обучению, объявила о запрете статей, содержащих текст, полностью написанный с помощью языковой модели.
Запреты и оборонительная стойка – пока первая реакция научного сообщества. Ведь учёные общаются статьями, а языковые модели склонны к «галлюцинациям», то есть зачастую генерируют в тексте фейковые факты и события, стремясь лишь к внешнему правдоподобию. Они даже могут дать правильный ответ и указать неверно его причину. Если в статьи учёных вклинится ИИ – мастер имитации, не понимающий сути вещей, – то доверие к научным публикациям будет подорвано.
Звучит как разумный довод против, однако запреты лишь отодвигают неизбежное. Генеративная революция свершается у нас на глазах, и те, кто стремится оградить научные тексты от участия ИИ, похожи на убеждённых сторонников немого кино в эпоху звуковой революции конца 1920-х, когда появились первые фильмы с говорящими актёрами.
Учёные будут использовать программы типа ChatGPT, потому что это удобно. Писать научную статью отнимает много сил и времени, а чат-бот способен взять на себя рутину. Авторам останется проверить факты и вычистить формулировки. Программисты уже используют языковые модели для написания кода, запрашивая ChatGPT, AlphaCode или специальную программу Copilot, и это здорово ускоряет их работу. Люди успевают сделать больше.
Не случайно Сэмюэл Альтман, СЕО OpenAI, говорит об «экстремальных преимуществах». Взрыв продуктивности – это то, что потенциально обещает генеративная революция. Запреты её не остановят. Ещё один штрих переломного момента: на днях компания Microsoft подтвердила, что сделает «многомиллиардные инвестиции» в OpenAI, и, по источникам деловых изданий, речь идёт о 10 млрд долларов.
Писатель vs читатель
Даже если языковые модели не мыслят, они умеют то, что сильно облегчит труд создателям текстов. Писатели уже прибегают к помощи программ, чтобы делать наброски сюжетных линий, сеттингов, описания персонажей. Учёные не избегут сотрудничества с ИИ, уж больно велик соблазн, так что можно ожидать взлёта научной литературы, написанной людьми совместно с генеративными моделями.
Однако ИИ будет помогать учёным не только писать статьи, но и читать их, вычленяя главные идеи, создавая модели и предлагая гипотезы. И даже адаптировать текст под уровень конкретного читателя. Так, шаг за шагом, мы придём к отмиранию самого формата статьи. Если один ИИ пишет то, что затем читает другой ИИ, то общение между ними рано или поздно эволюционирует в некие иные формы.
Правда, даже без оглядки на чат-боты, статья как единица научного знания постепенно изживает себя. Ни один учёный уже физически не в состоянии отследить и изучить все важные публикации даже по его узкой теме – их просто слишком много. Знания всё больше оседают на дно в виде текстов, которые почти никто, кроме авторов и рецензентов ,не читал. Прочесть их все как раз способен ИИ, но какое «понимание» он оттуда извлечёт – мы вряд ли сможем проконтролировать.
Что будет с наукой в этом случае?
В ней станет больше неявного знания. Больше принципов и формул, которые отлично работают, но не до конца ясно, почему. В итоге генеративные модели усилят возможности науки, как в ХХ веке её усилили компьютеры, но перед учёными встанет вопрос, как не утратить понимание картины мира. И это главный риск прихода ИИ в науку.
С тех пор как пять тысяч лет назад возникла письменность, люди выражают и передают главные идеи через тексты. Мы всегда считали сложный язык своей привилегией, выделяющей человека из природы. Сегодня мы входим в новую эпоху, когда источник хорошего текста может не быть человеком. На Земле появился новый автор.
Отыграть назад уже не удастся, так что гораздо продуктивнее думать о том, как обратить это себе на пользу. Повторим мысль Альтмана: «Сгенерированный текст – это то, к чему нам всем нужно адаптироваться». Развлечение картинками было лишь прелюдией.
