За ширмой тысячного ли: Как фантасты щупали нейросети за виртуальное пузико
130
6 минут на чтение
«За ширмой тысячного ли – 2» – совместный проект Института развития интернета, Kino-Teatr.ru и Союза литераторов РФ. Задача – сделать отечественную научную фантастику снова великой, для начала наладив диалог между учёными и писателями-фантастами.
Вместе с ведущим проекта, историком и писателем Климом Жуковым, фантасты посетили пять российских научных кластеров. Общались с учёными, обсуждали свои гипотезы, изучали технологии. А потом, вдохновлённые увиденным, написали рассказы.
Во втором выпуске писатели съездили в SberDevices и разобрались: когда нейросети заберут нашу работу и сколько лет осталось до появления ИИ, способного себя осознать.
Искусственный интеллект и нейросети сегодня
Способность ИИ распознавать объекты на фото и видео, обрабатывать большие массивы данных используется в системах безопасности, медицинской диагностике, маркетинге.
Совершенствуются беспилотные автомобили и дроны, улучшается транспортная система, растёт скорость и качество доставки товаров.
Совершенствуются беспилотные автомобили и дроны, улучшается транспортная система, растёт скорость и качество доставки товаров.
ИИ помогает в исследованиях: делает вычисления, строит прогнозы, улучшает диагностику заболеваний.
В будущем ИИ поможет в создании «умных» городов, управлении трафиком и коммуникациями. Расширится применение нейросетей в образовании. Анализ больших данных с участием ИИ поможет предсказывать природные катаклизмы, разрабатывать лекарства, проектировать сложные механизмы и системы, обеспечивать безопасность.
На мрачной стороне медали – очередной технологический скачок и потеря рабочих мест, неурегулированные вопросы конфиденциальности данных и ответственности за ошибки, которые совершает ИИ. Отсутствие механизмов контроля нейросетей. Множество спекулятивных вопросов без ответа: как развитие ИИ влияет на общество? Насколько нейросети определяют нашу культуру, образование, общение? Ответы только предстоит сформировать.
На мрачной стороне медали – очередной технологический скачок и потеря рабочих мест, неурегулированные вопросы конфиденциальности данных и ответственности за ошибки, которые совершает ИИ. Отсутствие механизмов контроля нейросетей. Множество спекулятивных вопросов без ответа: как развитие ИИ влияет на общество? Насколько нейросети определяют нашу культуру, образование, общение? Ответы только предстоит сформировать.
Как ИИ нам строить и жить помогает
Об этом рассказала Яна Чаруйская, руководитель XR-направления SberDevices.
Николай Калиниченко: Мне нравится «приближённая» научная фантастика. Какие новые высокие технологии мы сейчас можем оценить, попробовать, покрутить в быту?Яна Чаруйская: Сеть SymFormer может сгенерировать вам музыку. GigaChat создаёт тексты, пишет код, моделирует разные роли и ситуации.
Клим Жуков: И можно любой вопрос задать Гигачату?
Н. К.: Если бы ты был писателем-фантастом, какую тему выбрал бы для своего следующего романа?
GigaChat: Тему путешествия во времени, чтобы исследовать различные аспекты истории, будущего, нашего влияния на происходящие события.
Ирина Лазаренко (писатель, сценарист): А как проверить, навела меня нейросеть на какую-то идею или идея сама возникла в моей голове?
Я. Ч.: Невозможно проверить. Это остаётся на вашей совести.
«Нейросетки совсем юные, только учатся, совершенствуются медленно. Нас это спасает от футуршока, мы успеваем хотя бы в своей голове подготовиться к следующим явлениям»
Анастасия Шалункова (писатель, нарративный дизайнер): В фантастике часто фигурируют персонажи – домашние роботы. А появится ли в будущем такой робот?
Я. Ч.: Можно сказать, умный дом – готовый робот-домработник, только без рук и ног.
К. Ж.: Но он должен не включить кофеварку, а принести мне кофе!
А. Ш.: Спросить, как дела. Учитывая, что в мире растёт тенденция одиночества...
Я. Ч.: Это можно. Но сейчас такие роботы были бы слишком громоздкими.
Н. К.: Спросим у Гигачата: светлое ли будущее ждёт человечество?
Я. Ч.: Сейчас узнаем.
Н. К. (читает): Смотри-ка, шансы есть.
К. Ж.: Спасибо, дорогой.
Я. Ч.: Можно сказать, умный дом – готовый робот-домработник, только без рук и ног.
К. Ж.: Но он должен не включить кофеварку, а принести мне кофе!
А. Ш.: Спросить, как дела. Учитывая, что в мире растёт тенденция одиночества...
Я. Ч.: Это можно. Но сейчас такие роботы были бы слишком громоздкими.
Н. К.: Спросим у Гигачата: светлое ли будущее ждёт человечество?
Я. Ч.: Сейчас узнаем.
Н. К. (читает): Смотри-ка, шансы есть.
К. Ж.: Спасибо, дорогой.
После поездки Николай Калиниченко написал рассказ «Переменная облачность» – о любви, нейросетях и поэзии. В его истории люди создали нейросеть-Маяковского, с которым главный герой путешествует по Москве будущего.
Н. Калиниченко
Отрывок из рассказа «Переменная облачность»:
– Я хочу напомнить, что это всего лишь демонстрация возможностей новой нейросети. В сопроводительных документах множество примеров того, как конструкты, имеющие реальные прототипы, могут пригодиться нам во всех областях жизни. Представьте себе, что мы получаем доступ к сублимированному опыту любого профессионала с готовыми вариантами решений задач любого уровня сложности!
– Да-да. Я тоже читал фантастику. Сначала мы, забавы ради, воскресим известных писателей, ученых, философов и художников. Потом перейдем к экономистам и политтехнологам. А потом дойдем до диктаторов и маньяков?
– Это негативный взгляд на ситуацию, отче. Вот вы представьте себе, что где-то в отдаленном поселке, в Якутии или за Уралом, человеку нужно срочно делать сложную операцию на сердце. Единственный хирург лежит дома с ангиной, а вместо него – молодой интерн и сестричка на подхвате. Нет больше никого. Однако благодаря нашей разработке у интерна в советчиках – кардиохирург экстра-класса, скажем, Ильин или Воробьев. Представляете, как повысятся шансы у больного?
Иллюстрация к рассказу Н.Калиниченко «Переменная облачность»
Художник Анна Дербенёва
А в рассказе Анастасии Шалунковой «Вопросы этики» мы увидим общество, не одобряющее использование нейрочипов. Главной героине предстоит выбрать между здоровьем юной пациентки и идеологией её семьи.
Иллюстрация к рассказу А. Шалунковой «Вопросы этики»
Художник Анна Дербенёва
Заберёт ли ИИ нашу работу, свободу, очки и мотоцикл?
Н. К.: В СССР выходил фильм «Отроки во Вселенной», где молодые космонавты на планете земного типа сталкиваются с разумными роботами. Те посчитали, что эмоции мешают человеку нормально существовать и лишили его всяческих переживаний.
К. Ж.: Экспресс-погружение в нирвану, такие кибер-буддисты.
К. Ж.: Экспресс-погружение в нирвану, такие кибер-буддисты.
Н. К.: Стэнли Кубрик и его «Космическая одиссея», где появляется злонамеренный искусственный интеллект. Рассказ Кира Булычёва «Остров ржавого лейтенанта». Станислав Лем в 80-е годы пишет роман «Голем XIV» о высокоразвитом интеллекте, который поучает людей. Массачусетская машина Стругацких, которая четыре минуты проработала, после чего её выключили, обесточили, залили бетоном, обнесли колючей проволокой и тщательно охраняли.
«Один из главных страхов, связанных с будущим – что мы создадим такую штуку, которая нас же и уничтожит»
О возможностях и опасностях мира, полного нейросетей, писатели говорили с Сергеем Марковым, начальником Управления экспериментальных систем машинного обучения.
Н. К.: Может ли разрабатываемый вами ИИ осознать себя и понять, что хозяин ему не нужен?
Сергей Марков: Сознание не обязательно свойственно интеллектуальной системе. Там много нюансов, физических и термодинамических, нужны принципиально иные архитектуры. Машины, сопоставимые с мозгом по брутто вычислительной мощности, в самом оптимистичном сценарии появятся к концу 2020-х годов. В том, что мы сейчас создаём, сознанию взяться неоткуда.
И. Л.: Настоящая-то опасность в другом. Вы в своей книге и лекциях упоминаете прогрессирующее неравенство, технологическую безработицу, цифровой суд, которому даже нельзя апеллировать. Насколько мы близки к этим вещам? Может ли обыватель обезопасить себя?
С. М.: Да, сценарии типа «Терминатора» интересны с точки зрения картинки, а реальные опасности – не такие зрелищные, но уже среди нас. Сотрудники почтовой службы Великобритании много лет судились с работодателем из-за недостач, которые ошибочно были на них повешены из-за ошибки системы учёта. Или банковская нейросеть ошиблась и приняла необоснованное решение на твой счёт. И у тебя никакого права нет, чтобы апеллировать в этом решении, ведь модель принадлежит корпорации, её работа является коммерческой тайной. Нет никакого института цифровой адвокатуры или людей, уполномоченных такие ситуации анализировать.
И. Л.: Ты даже не узнаешь причину.
С. М.: И технологическая безработица – очень важный вызов. Прогресс создаёт рабочие места, но они требуют не тех навыков, которые есть у людей, теряющих работу в результате прогресса. Кто должен заботиться об этих людях, заниматься переподготовкой?.. Чтобы решать все эти задачи, недостаточно усилий одного человека, или даже корпорации, или даже страны. Как минимум нужна широкая общественная дискуссия об этих проблемах.
Н. К.: Может ли разрабатываемый вами ИИ осознать себя и понять, что хозяин ему не нужен?
Сергей Марков: Сознание не обязательно свойственно интеллектуальной системе. Там много нюансов, физических и термодинамических, нужны принципиально иные архитектуры. Машины, сопоставимые с мозгом по брутто вычислительной мощности, в самом оптимистичном сценарии появятся к концу 2020-х годов. В том, что мы сейчас создаём, сознанию взяться неоткуда.
И. Л.: Настоящая-то опасность в другом. Вы в своей книге и лекциях упоминаете прогрессирующее неравенство, технологическую безработицу, цифровой суд, которому даже нельзя апеллировать. Насколько мы близки к этим вещам? Может ли обыватель обезопасить себя?
С. М.: Да, сценарии типа «Терминатора» интересны с точки зрения картинки, а реальные опасности – не такие зрелищные, но уже среди нас. Сотрудники почтовой службы Великобритании много лет судились с работодателем из-за недостач, которые ошибочно были на них повешены из-за ошибки системы учёта. Или банковская нейросеть ошиблась и приняла необоснованное решение на твой счёт. И у тебя никакого права нет, чтобы апеллировать в этом решении, ведь модель принадлежит корпорации, её работа является коммерческой тайной. Нет никакого института цифровой адвокатуры или людей, уполномоченных такие ситуации анализировать.
И. Л.: Ты даже не узнаешь причину.
С. М.: И технологическая безработица – очень важный вызов. Прогресс создаёт рабочие места, но они требуют не тех навыков, которые есть у людей, теряющих работу в результате прогресса. Кто должен заботиться об этих людях, заниматься переподготовкой?.. Чтобы решать все эти задачи, недостаточно усилий одного человека, или даже корпорации, или даже страны. Как минимум нужна широкая общественная дискуссия об этих проблемах.
«Появление фантастических аппаратов требует этических обсуждений, юридических обсуждений. Например, может ли робот быть судьёй?»
Сергей Марков, Клим Жуков, Николай Калиниченко на съёмках
фото из личного архива Ирины Лазаренко
А. Ш.: Я на работе сталкиваюсь с двумя крайностями. Одна – никаких ИИ, всё запретить. Вторая – всех авторов уволить и заменить ИИ. Что вы об этом думаете?
С. М.: ИИ – средства увеличения возможностей человеческого интеллекта. Они будут доступны всем, будут применяться везде и приводить к появлению такого сценарного фастфуда. Это сверхдешёвый уровень, который не будет цениться. В реальном искусстве машина может стать помощником человека, сэкономить ему силы и время.
Может ли машина стать помощником человека, если тот сопротивляется, узнаем из рассказа Ирины Лазаренко «Дикая карта». Агентству маркетинга, отрицающему нейросети, поступил заказ на продвижение нейросети – и всё заверте…
С. М.: ИИ – средства увеличения возможностей человеческого интеллекта. Они будут доступны всем, будут применяться везде и приводить к появлению такого сценарного фастфуда. Это сверхдешёвый уровень, который не будет цениться. В реальном искусстве машина может стать помощником человека, сэкономить ему силы и время.
Может ли машина стать помощником человека, если тот сопротивляется, узнаем из рассказа Ирины Лазаренко «Дикая карта». Агентству маркетинга, отрицающему нейросети, поступил заказ на продвижение нейросети – и всё заверте…
Иллюстрация к рассказу И. Лазаренко «Дикая карта»
Художник Анна Дербенёва
Также в этом выпуске
Как обучается машина, почему она галлюцинирует и когда нейросети начнут смешно шутить.
Как обучается машина, почему она галлюцинирует и когда нейросети начнут смешно шутить.
Статьи
Блоги
Мрачные горизонты биопанка: экоапокалипсис в романах Паоло Бачигалупи
Блоги
Ава Райд «Леди Макбет»: оригинальный ретеллинг пьесы Шекспира
«Кажись цветком и будь змеёй под ним»
Блоги
За ширмой тысячного ли: Современный Франкенштейн, или Как напечатать человека?
Как фантасты отправились в институт науки и технологий МИСИС в НОЦ Биомедицинской инженерии.
Блоги
За ширмой тысячного ли: Радиация здорового человека или весь мир в труху?
Как Сергей Чекмаев и Клим Жуков познакомились с мирными атомами в новосибирском Институте ядерной физики.
Блоги
За ширмой тысячного ли: Марсианские яблони – мечта романтиков или реальность будущего?
Как фантасты вместе с учёными искали ответ на Главный вопрос жизни, Вселенной и всего такого: останутся ли наши следы на пыльных тропинках далёких планет?
Блоги
Роман «Путешествие на Запад»: как Царь Обезьян стал героем массовой культуры
Игра Black Myth: Wukong и другие адаптации классики китайской литературы
Блоги
«Азаг»: мир настольной ролевой игры
Вселенная забытых богов
Блоги
«Мне нравится моя игра, потому что она милая». Дневник разработчика настольной игры «Космобюро»
Андрей Колупаев — об истории создания игры про космических торговцев
Блоги
«Территория чудовищ»: герметичный стимпанк о мутировавшей Сибири
Чем интересен новый роман о Транссибирском экспрессе посреди Великого Сибирского Запустенья.
Блоги
Космическая фантастика: что почитать этим летом
Для тех, кто мечтает о звездах и далеких планетах.
Показать ещё
