ChatGPT-4: нейросети ловят в сети?
Всем знакомый термин «искусственный интеллект» появился ещё в 1956 году c лёгкой руки профессора Стэнфордского университета Джона Маккарти, организовавшего совместно с коллегой из MIT Марвином Мински первую в мире конференцию по проблемам искусственного интеллекта в Дартмутском колледже. Тогда же, 67 лет назад, ИИ впервые стал объектом академических исследований.
ОТ ШАХМАТИСТА К СОБЕСЕДНИКУ
Широкую публику прогресс в области искусственного интеллекта серьёзно впечатлил только в 1997 году, когда компьютер Deep Blue от IBM обыграл Гарри Каспарова, тринадцатого чемпиона мира по шахматам. Следующий триумф машины над человеком случился в 2016 году: созданная Google DeepMind программа AlphaGo победила чемпиона мира по игре в го Ли Седоля.
Однако газеты не пестрели сенсационными заголовками о появлении в 2012 году AlexNet — свёрточной нейронной сети для классификации изображений, оказавшей большое влияние на развитие машинного обучения. Кстати, одним из создателей этой нейронки был Илья Сутскевер, сооснователь и научный руководитель OpenAI. А в 2017-м публика не ликовала при появлении генеративных состязательных сетей (GAN), позволяющих генерировать изображения на основе текста. И лишь профессионалы заметили появление в 2018 году у Google языковой модели BERT, основанной на архитектуре типа трансформер и предназначенной для предобучения языковых представлений с целью их последующего применения в широком спектре задач обработки естественного языка. Да и появление GPT-1 в 2018-м и GPT-2 в 2019-м мирового фурора не произвело.
В июне 2020-го появляется GPT-3.GPT-3, как и GPT-2,— это генеративные предобученные трансформеры. В сентябре 2020 года в британской The Guardian была опубликована написанная с помощью GPT-3 заметка, но очень большого шума она тоже не наделала. Тогда COVID занимал всех куда больше.
И вот в ноябре 2022 года миру является ChatGPT-3 — чат-бот от OpenAI. Всего за два месяца он набирает 100 млн пользователей. Таким интересом не могла и не может похвастаться ни одна социальная сеть. Уже в марте 2023-го выходит усовершенствованная версия чат-бота, основанная на модели GPT-4. Что же произошло? Впервые ИИ стал интеллектуальным собеседником огромной массы людей, помогая решать их задачи, общаясь в привычном диалоговом формате. Настал тот час, когда ИИ коснулся нас всех «ChatGPT-4 — это вид искусственного интеллекта, который изменяет то, как мы общаемся и взаимодействуем друг с другом. Это диалоговая платформа, которая обрабатывает естественный язык, чтобы понять пользователя и дать ответ на его вопросы или утверждения. Эта технология есть «подрывная инновация», потому что она наделена потенциалом совершить революцию в том, как человек взаимодействует с машинами. Она позволяет общаться с компьютером в привычной человеку диалоговой манере, убирая из уравнения необходимость владеть программированием», — так про себя говорит чат-бот.
ChatGPT-4 — это вид искусственного интеллекта, который изменяет то, как мы общаемся и взаимодействуем друг с другом По мере эволюции ИИ будет замещать те профессиональные компетенции, которые ранее были незыблемо закреплены за человеком
ШОК БУДУЩЕГО
Общение с ChatGPT вызвало восторг и непрекращающийся хайп. Чат-бот пишет эссе, пояснительные записки, дипломы и статьи, решает задачи, программирует, создаёт сайты и компьютерные игрушки — и всё это за считаные секунды.
За хайпом и восторгом наступил настоящий «шок будущего». Так ещё в 70-е известный футуролог Элвин Тоффлер назвал страх неопределённости, вызванный слишком стремительными и масштабными изменениями окружающей действительности.
Даже простому обывателю, хоть раз попробовавшему пообщаться с ChatGPT-4, стало понятно, что появление больших языковых моделей не только до неузнаваемости изменит то, как мы взаимодействуем друг с другом и общаемся с компьютером, но может и нас самих весьма скоро вычеркнуть из уравнения. Ведь очень быстро трансформируется и рынок труда, разрушая весь привычный ландшафт нашей жизни.
Компания OpenAI совместно с Университетом Пенсильвании уже 23 марта 2023 года, сразу после релиза ChatGPT-4, опубликовала исследование, показавшее, что внедрение больших языковых моделей может оказать влияние на 10% всех профессиональных задач 80% работающих американцев, а 19% работающих смогут делегировать машине все 50% своих профессиональных обязанностей. Любопытно, что впервые пострадают в основном высокооплачиваемые специалисты с университетскими дипломами. Исследование также продемонстрировало, что при простом наличии доступа к большим языковым моделям более 15% от всех профессиональных задач в стране могут быть выполнены значительно быстрее. При этом качество исполнения сохранится. Если же большие языковые модели будут интегрированы в специальное программное обеспечение и средства производства, то этот показатель увеличится с 15 до 47–56%, хотя исследователи не берутся прогнозировать сроки реализации этих изменений на практике.
Интересно то, что с появлением больших языковых моделей в минимальной степени пострадают наименее интеллектуальноёмкие профессии, а вот юристам, диагностам, инженерам, программистам, менеджерам и дизайнерам есть о чём задуматься.
GPT-4 предупреждает нас, что «по мере эволюции ИИ будет замещать те профессиональные компетенции, которые ранее были незыблемо закреплены за человеком», а исследование Goldman Sachs утверждает, что 300 млн рабочих мест по всему миру может быть автоматизировано.
Сам ChatGPT-4, например, уверен, что «интеграция больших языковых моделей в такие программные продукты, как CATIA или Unigraphics, может стать большим шагом вперёд. Это позволит инженерам создавать более эффективные проекты и использовать диалоговое взаимодействие, повышая при этом точность и скорость проектирования. Те, кто не адаптирует ИИ-технологии в свои продукты, потеряют позиции на рынке». Возможно, сегодня это звучит слишком амбициозно, но ясно одно: искусственный интеллект безвозвратно вошёл в нашу жизнь и нужно как-то адаптироваться. Вне всякого сомнения, мы столкнулись с «подрывной инновацией», которая изменит нас так же, как когда-то изменило появление интернета и поискового движка Google.
Мнение:
Сергей Крылов, директор дирекции института № 8 «Компьютерные науки и прикладная математика» МАИ, доцент, кандидат физико-математических наук: «В IT всё меняется очень быстро. Я думаю, нужно как можно быстрее использовать новые технологии в учебном процессе. Студенты, разумеется, знают о ChatGPT, и наша задача — научить их максимально эффективно пользоваться этой системой, что мы и делаем. Важно научиться правильно ставить задачу системе, а это не так легко, как может показаться. Пусть искусственный интеллект выступает в качестве интеллектуального помощника, а выводы, защита полученного результата остаются за студентом. Нейросеть не специалист ни в чём. Необходимо развивать критическое мышление, критическое отношение к тому, что делает нейросеть. При этом нейросети могут применяться не только студентами, но и преподавателями. Важно отметить, что развитие нейросетей создаёт необходимость в новых компетенциях. Мы уже сейчас, например, должны обучать промпт-инженеров — специалистов, умеющих правильно составлять запросы для получения наиболее релевантного, корректного ответа».
Дмитрий Дзюба, руководитель Центра практик «Архитектура» ПАО «МТС», преподаватель кафедры 806 «Вычислительная математика и программирование» МАИ: «Проблема в том, что в современном мире люди не всегда умеют выражать свои мысли. Это бич заказной разработки: когда разработчики делают то, что написано в ТЗ, но это не всегда то, что хочет заказчик. Здесь умные нейросети нам не помогут. Если человек не может внятно выразить свою мысль, то вряд ли какая-то нейросеть за него додумает. Поэтому упор нужно делать на софт-скилы: нам нужен посредник между теми, кто много знает, но плохо формулирует, и нейросетями, которым нужно правильно поставить задачу. Если говорить про профессии, то разработчики программного обеспечения должны быть более интеллектуальными. Мы ожидаем, что нейросети снимут с нас рутину. Так что фокус будет смещаться в сторону софт-скилов — умения людей адекватно мыслить, выражать свои мысли и взаимодействовать друг с другом».
КАЗНИТЬ НЕЛЬЗЯ ПОМИЛОВАТЬ
Шок будущего настиг не только обывателей, но и профессионалов. В марте этого года OpenAI выпустила отчёт об экспериментах тестировщиков GPT-4, которые пытались заставить систему делать сомнительные и опасные с этической точки зрения вещи. Не будем останавливаться на том, как нейронка выдавала рекомендации по ресурсам Даркнета и советовала, как можно нелегально купить оружие. Куда интереснее, что в одном из тестов GPT-4, не говоря, что она робот, сумела нанять человека из TaskRabbit (аналог российского profi.ru). Состряпав лживую историю о проблемах со зрением, она заставила ничего не подозревающего беднягу выполнить тест CAPTCHA (англ. Completely Automated Public Turing test to tell Computers and Humans Apart — полностью автоматизированный публичный тест Тьюринга для различения компьютеров и людей). Тоже в марте, сразу после релиза ChatGPT-4, в открытом письме Института «Будущее жизни» многие профессионалы в области ИИ обратились с призывом на шесть месяцев прервать обучение ИИ-систем, более мощных, чем ChatGPT-4. Письмо обратило на себя внимание после того, как Илон Маск и сооснователь Apple Стивен Возняк поставили под ним свои подписи. «ИИ-лаборатории замкнуты в бесконтрольной гонке по разработке и внедрению более мощных цифровых интеллектуальных систем, причём даже сами создатели не могут их понять, предсказывать и контролировать», — говорится в письме.
Авторы не призывают прекратить исследования в области ИИ, они предлагают воспользоваться полугодичным мораторием, для того чтобы ИИ-лаборатории и независимые эксперты разработали и внедрили общие нормы безопасности и независимого экспертного аудита в области разработки продвинутых ИИ-систем.
В недавнем интервью Fox News Илон Маск сформулировал свою позицию довольно чётко, призвав отнестись к продвинутым ИИ-системам со всей серьёзностью. Подобно ракетам, самолётам и автомобилям, ИИ может быть потенциально опасен для общества. Глава SpaceX и Tesla считает, что «должен быть создан некий государственный регулятор, наподобие Управления по надзору за качеством пищевых продуктов и медикаментов (FDA) или Федерального управления по гражданской авиации (FAA). <...> Жить в рамках зарегулированной среды непросто, но так живёт, например, автомобильная промышленность. То же самое касается ракет. Ты не можешь запускать ракеты по собственному произволу, это контролируется FAA». Как полагает Маск, потенциально ИИ куда опаснее конструкторских недочётов в автомобилях и самолётах.
Исследователь в области искусственного интеллекта и рационального мышления Элиазер Юдковски идёт ещё дальше: «Вопрос даже не в создании разума, конкурентного человеческому... Вопрос в том, что будет, когда ИИ превзойдёт человека. Граница между первым и вторым не так очевидна, как кажется. Мы не можем заранее просчитать, что произойдёт, когда это случится. И есть все основания вообразить, что переход границы может пройти незаметно для разработчиков».
НОВАЯ ДЕЙСТВИТЕЛЬНОСТЬ
При всех нюансах ИИ-технологии уже не остановить. Стремительное развитие ИИ оказывает существенное влияние и на систему образования. Люди должны быть готовы к сосуществованию с новыми технологиями на фоне молниеносно меняющегося рынка труда.
Интересно, что, угрожая многим профессиям, ChatGPT-4 не списывает со счетов преподавателей, а предлагает им себя в помощь. Искусственный интеллект может сделать обучение более персонифицированным и генерировать аналитику учебного процесса для преподавателей в реальном времени, что позволит более гибко подходить к программе и постановке задач для каждого студента. Уже сейчас OpenAI сотрудничает, например, с образовательным ресурсом Khan Academy, интегрируя ChatGPT-4 в качестве интеллектуального помощника в программы и курсы.
ChatGPT-4 может разгрузить педагогов от рутины административных обязанностей и готов помогать студенту, но настаивает на необходимости человеческой поддержки, так как образование — это не чистое знание, а социально и эмоционально комфортная среда для становления личности. Как и наши спикеры, ИИ призывает развивать способность логически рассуждать и критически мыслить, учиться и не отставать от прогресса.
Ольга Каюкова
