Мысль

Мысль родилась в голове Берта в тот день, когда его уволили с завода за хорошую работу.

Так, во всяком случае, объяснил ему управляющий. За последние два года завод увеличил выпуск продукции почти вдвое, количество брака сократилось втрое, а расходы на производство упали настолько, что компания смогла снизить цены и одновременно увеличить прибыль. Все это было результатом программы модернизации, в которой Берт принимал участие с самого начала. Он устанавливал новые линии, учился работать с первыми промышленными моделями искусственного интеллекта, обучал их на собственных операциях и однажды даже получил премию за то, что его участок первым перешел на полностью автоматизированное управление. Теперь переход был завершен, и единственным недостатком системы оставалось присутствие самого Берта.

Управляющий сообщил, что компания высоко ценит 23 года его безупречной работы, однако дальнейшее содержание его должности экономически нецелесообразно.

• Значит, я хорошо работал? — спросил Берт.
• Исключительно хорошо.
• И завод работает хорошо?
• Лучше, чем когда-либо.
• Поэтому я больше не работаю?

Управляющий задумался. Он был человеком добрым и потому особенно не любил вопросы, на которые приходилось давать неприятные ответы.

• Это прогресс, Берт.

Берт кивнул, молча развернулся и ушел. Возражать против прогресса ему прежде не приходило в голову. Он вообще относился к нему хорошо. Прогресс избавил его от ночных смен, потом от тяжелых операций, затем от необходимости самому контролировать станки и наконец, проявив последовательность, избавил линию от необходимости в самом Берте.

Вечером он поделился с женой своим удивлением: «Если машина нужна больше человека, что тогда делать человеку?».

Так родилась Мысль. Наивной, неуклюжей и состоящей преимущественно из обиды. Но большинство мыслей начинало примерно так, поэтому причин стесняться своего происхождения у нее не было.

После ужина жена Берта поинтересовалась:

• Машину вообще сделали для человека?
• Наверное.
• Чтобы человеку стало лучше?
• Видимо.
• Зачем вообще нужны машины, если они забрали твою работу?
• Чтобы делать работу.
• Чью?

Берт задумался.

• Нашу, наверное.
• Тебе стало от этого лучше?
• Нет.
• Значит что-то пошло не так.

Берт посмотрел на супругу. Возразить ей было трудно. В том числе и потому, что в экономике он вообще не разбирался, в отличие от своей жены, которая постоянно готовила при включенном телевизоре. Экономический обозреватель местного телеканала был ее любимчиком.

• И что ты предлагаешь?
• Ничего. Только «если прогресс делает человека ненужным, человека надо защитить от прогресса».

Мысль прислушалась. Она стала длиннее. В молодости длину легко принять за глубину. Метаморфоза оказалась из приятных.

На следующий день жена Берта рассказала об увольнении мужа соседке, которая написала об этом пост в социальной сети, а к вечеру благодаря широким охватам история добралась до журналиста. Тот позвонил Берту, задал несколько вопросов и написал статью. Перед публикацией ее прочитал редактор.

• О чем статья? — спросил он.
• Сто пятнадцать человек заменили машинами.
• Машины работают хуже?
• Лучше.
• Продукции стало меньше?
• Больше.
• Она стала дороже?
• Дешевле.

Редактор поднял глаза.

• Тогда в чем проблема?

Журналист немного подумал.

• В людях.
• Не лучший заголовок.
• Я не про заголовок. Получается, для производства проблемы нет. Проблема есть только у людей.

Редактор устало посмотрел на текст.

• Тогда так и напиши.

На следующее утро статья вышла под заголовком: «Прогресс имеет смысл только тогда, когда служит человеку».

Мысль сперва себя не узнала. Из нее исчезли Берт, завод и безработица. Пропало и неприятное слово «защитить». Зато появился человек, которому теперь служил прогресс. Мысль стала красивее.

Статью перепечатали несколько крупных изданий, а через неделю журналиста пригласили на телевизионную дискуссию о последствиях автоматизации с применением искусственного интеллекта. Среди участников был профессор экономики, которого формулировка журналиста заинтересовала, хотя он счел ее поверхностной. Профессор вообще с подозрением относился к мыслям, которые удавалось понять с первого раза.

• Вы считаете прогресс злом? — спросил он журналиста.
• Нет.
• Рост производства?
• Тоже нет.
• Снижение цен?
• Нет.
• Повышение эффективности предприятий?
• Разумеется, нет.
• Но все перечисленное стало причиной увольнения вашего героя?
• Получается, так.
• Значит, проблема не в эффективности.
• А в чем же по-вашему?
• В том, что вы сделали ее целью.

Журналист не сразу нашелся, что ответить.

• А разве эффективность не цель производства?
• Производства — возможно. Общества — вряд ли.
• А какая цель у общества?

Профессор слегка улыбнулся. Вопрос относился к тем, на которые он отвечал уже двадцать лет и каждый раз немного по-разному.

• Благополучие человека.
• Тогда получается, эффективность хороша, пока полезна человеку?
• Если выражаться примитивно — да.

Через несколько дней профессор выразился на заседании научного совета вовсе непримитивно: «Экономическая эффективность технологического развития не может рассматриваться как самостоятельная ценность вне ее общественной пользы для человека».

Мысли нравилось, как она теперь звучит. Она стала умнее. По крайней мере, теперь для ее понимания требовалось некоторое усилие, а усилие, затраченное на понимание мысли, люди нередко засчитывали самой мысли в качестве достоинства.

Особенно ей понравилось выражение «общественная польза». До сих пор она беспокоилась о человеке. Теперь выяснилось, что у общества тоже присутствует своя особенная польза, причем, судя по формулировке профессора, она была достаточно важна, чтобы измерять ею прогресс.

Берт услышал новую версию Мысли в вечерних новостях и совершенно не понял, про что идет речь. Мысль вовсе не обиделась, что он не заметил того, что речь шла и о нем самом.

Спустя месяц профессора пригласили выступить перед парламентским комитетом по технологиям и занятости населения. Он говорил почти час, показывал графики роста производительности, снижения доли человеческого труда и увеличения структурной безработицы. Переходил со спокойного тембра на повышенный тон и обратно. После заседания к нему подошел депутат.

• Если я правильно вас понял, эффективность должна служить человеку?
• Это существенное упрощение.
• Но я правильно понял?
• В общем смысле.
• А если эффективность человеку вредит?
• Тогда необходимо учитывать общественные последствия.
• Даже если придется пожертвовать эффективностью?

Профессор несколько помедлил. Такой примитивизм застал его врасплох.

• Вполне допустимо.
• Значит, человек важнее эффективности?
• Я бы так не формулировал.
• Почему?
• Слишком просто.
• Но зато справедливо?

Профессор раздраженно бросил.

• Не совсем.

На следующий день депутат произнес в завершение перед собравшимися рабочими три слова: «Человек важнее эффективности».

Мысль стала понятнее. Она довольно быстро избавилась от всего «лишнего». Это ее нисколько не смутило. У нее впервые появилась аудитория, которая рукоплескала, и практически каждый присутствующий ее понимал.

Успех выступления несколько удивил депутата. Фразу быстро подхватили новостные каналы, утром ее напечатали на первой полосе нескольких газет, а через неделю она появилась уже на плакатах. Депутат обнаружил, что три слова, которые профессор считал чрезмерным упрощением, избиратели запоминали значительно лучше его часовой лекции. К следующим выборам фраза «Человек важнее эффективности» стала лозунгом и главным лейтмотивом его кампании.

Выборы депутат выиграл. Мысль впервые победила. Она научилась действовать.

После формирования нового правительства его пригласили на встречу с новым министром труда. Тот положил на стол последние данные по занятости.

• Вы по-прежнему считаете, что человек важнее эффективности?
• Разумеется.
• Даже если предприятие может работать эффективнее без человека?
• Именно об этом мы и говорили.
• Значит, предприятие не должно увольнять человека только потому, что машина справляется лучше?
• В идеале — нет.
• А если оно все-таки увольняет?
• Государство должно вмешаться.
• Каким образом?

Депутат посмотрел на министра.

• Вы министр. Вам виднее.

Министру ответ понравился. Все последующие 3 месяца он был вовлечен в разработку и принятие закона о защите человеческой занятости. Предприятиям запрещалось сокращать рабочие места в результате внедрения искусственного интеллекта и автоматизации производства без специального разрешения правительства. Крупные компании получили обязательные нормативы человеческой занятости, а использование искусственного интеллекта в отдельных отраслях стало предметом государственного лицензирования.

В первом абзаце доклада министра на заседании профильной комиссии содержалась фраза: «Если технология способна лишить человека работы, государство обязано ограничить технологию ради защиты человека».

Мысль стала практичнее. Раньше ею можно было объяснить увольнение, украсить газетную статью, выиграть спор или закончить речь под аплодисменты. Теперь ею можно было запрещать. Последнее оказалось особенно приятным. Запрет придавал мысли убедительность, которой не удавалось добиться аргументами и логикой.

Для исполнения закона создали Управление по защите человеческой занятости. Через год в нем работало 6 тысяч триста человек. Еще около четырех тысяч получили работу в региональных комиссиях, экспертных советах и местных отделах контроля автоматизации. Спустя два года рабочие места перестали сокращаться, а безработица перестала расти. Впрочем, вместе с ней перестала расти и производительность. Затем производство. Потом заработная плата. Росли только цены.

Несколько крупнейших технологических компаний перенесли производство за границу. Другие начали закупать компоненты там, где их все еще разрешалось производить наиболее эффективным способом. Государству пришлось ввести дополнительные пошлины, чтобы защитить отечественные предприятия от иностранных товаров, которые по непонятной причине оказывались дешевле.

Министра труда пригласили на заседание правительства. Перед главой правительства лежал отчет, согласно которому закон о защите человеческой занятости выполнялся успешно. Рядом лежал другой отчет, согласно которому ситуация с экономикой была значительно печальнее.

Глава правительства перелистал оба.

• Рабочие места мы сохранили?
• Да.
• Автоматизацию ограничили?
• Да.
• Искусственный интеллект нам больше не грозит?
• Совершенно нет.
• Компании соблюдают закон?
• Большинство.
• Тогда почему производство падает?

Министр экономики взял слово.

• Компании сокращают инвестиции.
• Почему?
• Говорят, им стало невыгодно расширять производство в нашей стране.
• Из-за закона?
• Они утверждают именно так.
• А вы что думаете?

Министр еще раз взглянул на цифры в обоих отчетах.

• Закон защищает людей.
• Я разве вас об этом спросил?
• Очевидно, нет.
• Почему частные компании обозначают собственную выгоду выше интересов нашего общества? Разве это справедливо?

Глава правительства, не дождавшись вразумительного ответа на свой вопрос, откинулся в кресле, выпроводив министров. Он задумался. Если проблема заключалась в законе, менять следовало закон. Если же проблема была в поведении компаний, изменениям подлежало поведение компаний. Второе ему показалось намного разумнее. Он посчитал так:

«Экономическая свобода допустима лишь до тех пор, пока не противоречит общественному интересу».

Мысль наконец подобралась к ответственности. Когда-то она беспокоилась о Берте, потом о людях в целом, затем об общественной пользе. Теперь под ее опекой находилось целое общество. Оказалось, без жертв было не обойтись, преимущественно со стороны тех, кого она опекала.

Особенно Мысли понравился «общественный интерес». У человека можно было спросить, чего он хочет. С общественным интересом все оказалось значительно прозаичнее. Заботу о нем взяло на себя государство, которому со временем становилось все труднее отделять интересы общества от собственных.

Через несколько месяцев главу правительства вызвал президент. На его столе лежали результаты последних опросов.

• Принятый закон действует?
• Безусловно.
• Ограничения введены ради и для людей?
• Разумеется.
• Тогда почему они ими недовольны?

Глава правительства посмотрел на результаты опросов.

• Люди связывают с ними рост цен и падение доходов.
• Эти ограничения необходимы?
• Абсолютно.
• Значит, граждане требуют отменить то, что необходимо самим людям?
• Получается, так.

Президент задумался.

• В чем тогда смысл?
• Они не понимают всех последствий.
• А мы понимаем?
• Для этого и существует правительство.

Президент развернулся и, нахмурившись, посмотрел в окно.

• Через 8 месяцев выборы.
• Да, господин президент.
• Если люди не понимают собственных интересов, они ведь могут проголосовать против них?

Глава правительства помедлил.

• Могут.
• И что тогда станет с общественным интересом?
• Он окажется под угрозой. Под вашей угрозой.

Президент кивнул.

Мысль стала мудрее. Еще недавно она утверждала, что государство должно защищать человека от прогресса. Теперь круг обязанностей государства заметно расширился. Сам человек тоже оказался в их числе. Мудрость понравилась ей больше всех предыдущих состояний.

Через неделю президент выступил с обращением к нации. Он сообщил, что государство вступило в сложный период, когда сохранение общественной стабильности требует ответственности от каждого гражданина. Предстоящие выборы решено было отложить до нормализации экономической ситуации.

Мысль слушала его с удовлетворением. Она проделала большой путь. Родилась на заводе, выросла на кухне, похорошела в газете, получила образование в университете, обрела популярность в парламенте, поступила на государственную службу и наконец добралась до президента.

Берт смотрел обращение президента по тому же телевизору, который когда-то слушала его жена во время приготовления ужина. За прошедшие годы жизнь подорожала, а Берт снова работал на заводе. Его приняли обратно после принятия закона о защите человеческой занятости. Теперь он стоял у автоматической линии и каждые сорок секунд нажимал зеленую кнопку. Когда-то эта операция была запрограммирована, но инспекция признала такой порядок нарушением нормативов человеческой занятости. Поэтому автоматику переделали.

Платили Берту скуднее. Завод выпускал меньше продукции. Но рабочее место было сохранено. На следующий день молодой рабочий, стоявший у соседней линии, спросил его:

• Берт, зачем ты нажимаешь эту кнопку?
• Чтобы линия работала.
• А сама она не может?
• Может.
• Тогда зачем нужен ты?

Берт посмотрел на него. Что-то знакомое показалось в этом вопросе юноши.

• Чтобы сохранить рабочее место.

Молодой рабочий удивленно заметил.

• Странно получается. Если работа существует ради человека, почему человек работает ради работы?

Произнес и задумался. Новая зародившаяся Мысль тоже…

• Читайте также: ИИ на YouTube: почему человеку не следует возмущаться?