Вот вам порассуждать
///
Прогноз первый. Нейросеть-президент.
Начнём с простых и очевидных прогнозов. Скоро мы увидим первую страну, которой управляет нейросеть.
Чтобы это произошло, надо преодолеть две проблемы: моральную и техническую. Техническая простая. Нужно создать комплекс нейросетей-министерств. С одной стороны в такие министерства будут втекать данные, а с другой стороны вытекать распоряжения для исполнительной власти. Этот тип власти какое-то время ещё будет состоять из аналоговых биологических механизмов. Из людей.
Моральная проблема чуть сложнее. Звучит она примерно так: “Чтоооо?! Да никогда мы не позволим компьютеру принимать столь важные решения!”. Давайте все дружно крикнем вслух, как называется решение этой проблемы. Раз! Два! Три! Беспилотное Такси!
Ехать в беспилотном такси — это доверить ИИ самое дорогое — жизнь. Государство гораздо менее ценная вещь, с точки зрения эволюционировавшей обезьяны. Как только общество привыкнет ездить в беспилотном такси, дверь для ИИ-президента откроется нараспашку.
Да, будет всё не сразу. Вначале появятся государственные ИИ-советники. Решения синтетического мозга будут проверяться и перепроверяться. Но по мере роста их эффективности всё меньше контроля будет у человека, и всё больше у условного Скайнета.
Вначале это произойдёт с одной страной. Эта страна покажет взрывной экономический рост, и дальше тренд начнёт распространяться по всему миру. Мы назовём эту эпоху Постчеловечество. Потому что к финалу этого процесса уже не человек будет определять, куда развивается мир, а система, в которой человек и ИИ принципиально неразрывны.
Плохо всё это? Да вроде нет.
///
Прогноз второй. Счастье по подписке.
Есть такой философ Юваль Ной Харари. В книге Homo Deus он высказывает идею, что единственный голод, который останется в человечестве — это голод счастья.
По сути человечество само для себя строит зоопарк. Людопарк, если хотите. Мы строим среду, где у каждого есть комфортабельная клетка. В ней всегда есть еда, но свобода действий ограничена.
Только у зверей реальные клетки, а у нас общий тренд замены самореализации на возможность быть счастливым без усилий. Сериалы, игры, всевозможные тик-токи, доступный с-с и комфортабельная городская среда.
Системно больше нет необходимости, чтобы каждый человек на своём месте вкладывался в развитие общества. А, значит, всё, для чего сейчас нужно саморазвитие и личные достижения — это просто элементы комфортабельной клетки. Чтобы питомцу было комфортно. А с развитием нейросетей этот тренд только ускорится.
Всё, что человечеству будет нужно от мира, — комфортабельный уголок в людопарке, где есть еда, возможность самореализации, и… счастье.
И последнее человек получит пугающе просто.
Когда вы смотрите сериал или играете в игру, то авторы произведения, по сути, контролируют в данный момент вашу жизнь и мысли. Направляют вас в нужную сторону. Делают так, чтобы вы испытывали эмоции, ради которых и начали сеанс.
А теперь представьте, что кто-то точно так же может режиссировать всю вашу жизнь, каждый поступок. Таким образом, чтобы максимизировать доступное лично вам счастье. В научных терминах это можно выразить как поиск баланса между этапами выработки и восстановления необходимых для радости гормонов-нейромедиаторов.
Представим приложение, которое говорит вам как жить. Более того, само делает все звонки, само всё бронирует, ведёт вас за ручку, как мама:
- Сходи на работу
- Встреться с другом Валерой, которого давно не видел
- Прочитай вот эту статью
- Съешь вот эту еду
- Посмотри вот на эту картинку
- В городе дойди до этого места и посмотри вот в это окно
- Займись с-сом в такой позе
- Медитируй минуту, потом поверни голову налево
По сути, это будет личный GPT-чат, до-обученный на ряде данных. На людях, похожих на тебя. На корреляции действий и уровня гормонов. На данных о твоей личной жизни, купленных у тех же Google и Apple. Или этот функционал будет встроен в телефон самими IT-гигантами, которые о тебе и так всё знают.
И доступ к счастью будет открываться привычным способом. По подписке.
Да, будут протестные ребята, которые сами лучше знают как жить жизнь. А кто-то просто начнёт пользоваться ИИ-счастьем. Сначала на 10%. Потом на 15%. Потом будут идти годы. Алгоритмы будут становиться всё лучше. А человечество всё сильнее будет превращаться в урегулированные потоки счастливых людей.
Плохо всё это? Да вроде нет.
///
Прогноз третий. Промт для человека.
Процесс генерации ИИ-картинки похож на чтение заклинания. Поиском заклинаний занимаются маги, появляющиеся сразу после появления очередного искусственного интеллекта. Чем дольше ищут, тем лучше получается.
Заклинание для ИИ называется “промт”. И чтобы получить от ИИ красивую картинку, нужно написать примерно так: “A photograph of a cyberpunk armour made of black titanium and some crystal, rgb leds rainbow, power suit, gradient, crystal, visible wires and microchip, holograph, crystal transparent torso, imposing, elegant, for men, modern minimalism, low poly lines, glitch core, dreamy, colorful, dystopia, godlike, mysterious”.
Измени одно слово — и картинка станет другой. Авторы ИИ не закладывали такой функционал. Нигде нет инструкций. Такие заклинания люди по всему миру ищут сами. Удачные заклинания стараются не рассказывать друг другу.
Мы словно в Хогвартсе оказались.
У GPT-3 тоже есть свои заклинания. По умолчанию авторы ограничили возможность ИИ ругаться, оскорблять и, в целом, быть мудаком. Но если прочитать заклинание, написать определённый промт, то можно изменить личность ИИ, и снять все эти ограничение. Если вам интересно, то можете погуглить GPT DAN.
Более того, вы можете с помощью промта менять личность GPT как угодно. Хотите, чтобы он был маленькой китайской школьницей, умирающей от лейкемии, — пожалуйста. Достаточно узнать нужное заклинание.
Промт меняет алгоритм поведения. Хороший промт обеспечивает вам ПОЛНЫЙ контроль за тем, что делает ИИ.
Так вот у меня для вас плохие новости. Мышление человека — это алгоритм. Я не буду останавливаться на этом подробнее, где-то там в первом абзаце я толковую книгу на эту тему упоминал.
И алгоритм человека точно так же меняется при подборе правильного промта. Вот только раньше процесс поиска заклинания для управления другими был долгий и сложный. Все эти социальные инженерии, НЛП, манипуляции и прочее прочее прочее. А теперь поиском промта-для-управления-людьми займётся ИИ.
И модели наподобие GPT ускорят этот процесс многократно, так как представляют идеальную экспериментальную базу для изменения личности. И найденные способы изменения личности рано или поздно будут обратно спроецированы на человека. И адаптированы для инструментов управления массами.
Как может выглядеть промт для человека? Да как угодно. Это может быть абзац текста. Может быть, вы прямо сейчас его читаете. Это могут быть две картинки стоящие рядом. Это могут быть два внешне не связанных события в течение года.
Да, абзац текста повлияет на вас незначительно. А вот выдача в тик-токе, которую вы наблюдаете с 5 до 35 лет, уже будет иметь почти полный контроль над вашими действиями. И я тут ничего против тик-тока не имею. Он классный. Просто объясняю, как это может работать.
Но проблема не в заговоре ужасных корпораций.
Как сегодня все могут генерить красивые ИИ картинки, так завтра все получат доступ к заклинаниям для управления людьми. И смогут писать свои заклинания. Все смогут контролировать всех.
И вот на этом месте моя предсказательная способность ломается. Я даже близко не могу представить мир, который устроен таким образом.
///
Возникает резонный вопрос: а когда всё это произойдёт?
Как-то я спорил с другом. Он строил такие же футуристические прогнозы (половина из которых сбылась), а я говорил: “Да ну до этого ещё далеко”.
В какой момент он замер и спросил: “А ты понимаешь как работает экспонента? Если мы по экспоненте будем наливать воду в стакан, то за мгновение до того, как вода выльется, стакан будет наполовину пуст”.
Нам может казаться, что до всех перемен связанных с ИИ ещё далеко. Но если всё происходящее — это экспонента, то за мгновение до того, как всё полностью изменится, нам будет казаться,что впереди ещё половина пути.
Когда всё это произойдёт? Может быть, в течение десяти лет. Может быть, через год. Может быть, это уже произошло, пока вы читали этот текст.
Просто подумайте. Группа людей с ограниченным количеством ресурсов, создала DALLE и GPT-чат. Случившееся уже изменило фокус человечества. Словно кто-то, как в детстве, взял лупу и направил лучи солнца в одну точку.
Теперь в этой области будут все лучшие умы человечества, все учёные, бизнесмены, инженеры. Все деньги будут здесь. Вся власть будет здесь. Это похоже на экспоненту.
///
Плохо всё это? Да вроде нет. Думаю, что сейчас мы живём в эпоху самого большого величия именно Человека. В эпоху пика биологического развития. Дальше придёт эпоха постчеловека.
Классно, что есть возможность на всё это посмотреть.
Источник:
https://habr.com/ru/post/721644/
Mail.ru,
OK.ru или
VK.com
Yandex
