Бармаглотов (mcjabberwock) wrote,
Бармаглотов
mcjabberwock

Category:

Идол современности (часть 1)


Когда-то, давным-давно, люди не верили ни в Бога, ни в Чёрта. Потом они придумали себе богов и стали им молиться. Потом богов несколько унифицировали целые пантеоны богов трансформировались всего в нескольких, зато уже наверняка настоящих.

Позже с развитием науки и техники некоторые люди верить перестали вообще, но только некоторые, и на этом процесс остановился, двинулся вспять, и тут внезапно развитие веры всё больше и больше стало обретать причудливую и архаичную форму идолопоклонства.

Разумеется, века прогресса под задницей за плечами человечества не прошли бесследно, и нынешний человек поклоняется уже не такому болвану, как на картинке. Нынешний человек в массе поклоняется Великому и Ужасному Могучему Искусственному Интеллекту.

Как так получилось, и куда это нас может привести?

В начале немного теории. Рассмотрим обе стороны, людей и "искусственный интеллект".
Согласно общему представлению, людей в первую очередь характеризует наличие разума и, если ещё несколько подумать, свобода воли. Насколько это верно?

Где вы видели разумного человека? Так, чтобы вообще и везде? Про разум неверно. Можно уточнить: Некоторые люди наделены некоторым разумом в некоторой степени в некоторых областях деятельности.
...
Если бы люди были разумны в своем мироустройстве, собственно человеческий мир выглядел бы несколько иначе.

Неразумное мироустройство имеется как факт: как минимум слишком много лишних страданий и слишком мало понимания; слишком много лишних затрат и слишком мал полезный выход, мал КПД. В этом неразумном мироустройстве обитают «существа, лишенные перьев, с плоскими ногтями». Иногда эти существа участвуют в политических процессах. В революциях, контрреволюциях, войнах и выборах. В абсолютном большинстве случаев «существа, лишенные перьев, с плоскими ногтями» делают что-то неверно и потом от этого страдают и даже погибают. Но потом их численность восстанавливается, и все начинается по-новой.
[1]

По С.Морозову людей можно разделить на две категории: люди, которые используют логику, «логики», и люди, которые в большинстве случаев, либо вовсе, логикой не пользуются. Но вторая группа тоже должна иметь какой-то механизм обработки информации и далее управления. Единственное, что для нее можно предложить – это рефлексы. Условные и безусловные. Людей без логического механизма, или с неработающим логическим механизмом, можно назвать «рефлексоидами». Рефлексоид – это самый популярный подвид человека.[1]

Надобно заметить, что с одной стороны логики далеко не всегда включают логику, а с другой, хорошо обученные и натренированные рефлексоиды эту самую логику могут мимикрировать неотличимо от настоящей. Тем не менее, разница между двумя этими категориями есть, и она принципиальна; с деталями и некоторыми выводами можно ознакомиться в оригинальном тексте.

Для нас в пределах рассматриваемой темы существенно то, что рефлексоиды не обладают критическим мышлением и не способны самостоятельно устанавливать логические связи между явлениями. Вместо мышления они используют шаблоны, которые запоминают тем лучше, чем больше число повторений. Именно этим объясняется воздействие на них телевизора, в том числе повторяющейся рекламы. На логиков реклама действует слабо, или не действует вообще.

Кроме этого различия, люди различаются по интеллекту.

Если построить график, в котором по оси X отложить интеллект, а по оси Y количество людей, им обладающих, получим известную кривую Гаусса. Её можно разделить на три части, где в средней окажутся "средние" люди, в левой – дебилы, а в правой – гении.


Зачем я лишь о том всё время думаю,
Как сделать, чтоб не думать ни о чём?


У всех людей в целом наблюдается стремление затрачивать как можно меньше усилий, и в первую очередь – мысленных. Та самая лень, которая иногда выступает как "двигатель прогресса".
И, разумеется, существует огромный соблазн переложить умственную деятельность на машину, как работу землекопа на экскаватор.

Успешно заменив арифметические операции на бумаге машинными расчётами, научив компьютеры играть в шахматы лучше человека, кажется, не так сложно переложить на них же и функции управления. Например, трудовыми процессами. Или автомобилем. Функции наблюдения и сбора данных. И – гвоздь программы – функции принятия решений в отношении людей.

Казалось бы, ничто не предвещает беды. И даже наоборот. Беспристрастный и точный компьютерный разум должен справляться не то, что не хуже, но гораздо лучше шустрых подтянутых оперов и жирных ленивых тупых чиновников, разве нет?

Однако, дьявол не дремлет, и по излюбленной своей манере прячется в деталях.

Рассмотрим совсем простой случай. Грузовое такси. По сравнению с легковым есть нюанс: погрузка-разгрузка может занимать время иногда большее, чем сама поездка. А оплата идёт как раз по времени. Причём использует автоматизацию фирма, а работают, как это часто случается наёмные работники, шофера и грузчики. И к каждому из них кассира-контролёра не приставишь. И возникает опасность: шофёр сообщит об окончании разгрузки раньше, чем она на самом деле закончится, и, о ужас!!! – взяв с клиента денег по фактическому времени, разницу положит себе в карман! Получится же форменный грабёж среди бела дня, компания такси разорится, а по стране будут колесить таксисты-миллионеры. Задачка решается легко и элегантно: на машине изначально стоит трекер, показывающий её местоположение, и мы (таксопарк) выдаём шофёру инструкцию: закончив погрузку, немедленно уезжай от места преступления разгрузки хотя бы на километр (трекер имеет некоторую погрешность). Именно по этому событию заказ считается законченным и фиксируется оплаченное клиентом время. Вуаля! Казалось бы.. Пока не доходит до практики.

На практике таксист приезжает, к примеру, с полным кузовом деревяшек, в какую-то деревню, где всего одна улица, разгружается минут за 40, берёт денег с клиента, проезжает по этой несчастной деревенской улице метров сто вперёд, метров двести направо, выезжает на шоссе (а поворот там только направо, как у нас любят делать), и встаёт в мёртвую пробку. Метрах в трёхстах от места разгрузки. Всё бы ничего, но заказ не закрывается, и если таксист не вытряс из клиента денег за это время, эти деньги контора спишет с таксиста. А с клиента уже ничего не взять, ему всё сделали, он заплатил, и с ним распрощались. Таксист звонит диспетчеру. А диспетчер ему и говорит человечьим языком: "а я ничего не могу сделать – программа заказ не закрывает. И она действительно ничего сделать не может: у неё нет такой кнопки, "закрыть заказ указанным временем". *

Вам ещё никогда не приходилось слышать подобной фразы: "я ничего не могу сделать, программа так работает"?

Автору приходилось такое слышать, и не раз, иногда в самых неожиданных ситуациях. Программа работает так, только так, и никак иначе, и я ничего не могу сделать, и моё начальство не может, и никто не может, разве только Господь Бог, но ведь его же нету!! А что вам делать? Да что хотите, то и делайте. Не хочешь – не бери, не нравится – не ешь!

Несомненно, в обезличении принимающего решение субъекта имеется огромное преимущество: с клерком можно поспорить, на него можно наорать, можно пойти к его начальнику и добиться изменения решения, можно написать жалобу "наверх", на всю эту контору, и как-то добиться желаемого.
А когда этот самый клерк смотрит на тебя честными, и даже сочувственными глазами, и совершенно правдиво говорит, что хочет тебе помочь, но не может, потому что программа работает только так – что делать??


Ещё один пример, уже из недавнего прошлого.

В стране свирепствует страшный и ужасный коронавирус. Двоим (мужу и жене) не повезло: они стали заразными, то есть, могут при контакте заразить других людей. Что делать? Посадить их в тюрьму под домашний арест! А как? Под честное слово? Да что вы, как маленький? Людям можно верить только в крайнем случае © Приставить к ним полицейских? Неплохо бы, но где их столько напасёшься? А! Точно! У них же есть эти, как это их... смартфоны, во! Быстренько берём программу для контроля, например, передвижения мусоровозов, и пару студентов по дешёвке, которые превращают её... превращают её... брюки превращаются... превращаются брюки... в новейшее модное приложение по контролю за заразой!! Опять же, вуаля! Враг обезврежен и будет наказан. Что нам надо отслеживать? Перемещение! Что у нас есть? Местоположение телефона, мы можем его отследить! Что ещё обеспечить? Чтоб этот мерзавец никуда не отходил от этого своего телефона! Да легко! Мы будем посылать ему электрический разряд в задницу сигнал, а он будет немедленно этим телефоном делать селфи! Ну, а что такого? Все же делают селфи. Все же любят делать селфи! Ах, вы не любите? Что? Вообще-то не против, но не хотите специально для этого просыпаться ночью? Как-как? Вообще плохо себя чувствуете, да-да, вы же таки болеете этим дурацким вирусом.. М-да..
Ну уж извините. Родина-мать зовёт! Это теперь ваш священный долг перед Отчизной! Что? Не-еет! На слово мы вам не поверим, что вы дома сидите, а не жарите где-то там шашлыки, распространяя широким веером проклятый вирус по лесам, полям, морям и горам! Вы же вообще по природе своей не достойны доверия. Так что фоткайтесь, а если не смогли – будем вас штрафовать. И если куда-нибудь сбежите из мест заключения выйдете из квартиры, тоже будем штрафовать. Да не волнуйтесь, не намного, ну на 1/100 вашего дохода за раз, вы же приличный человек, тыщ 400 же небось получаете каждый месяц? Нет-нет, нечего тут жаловаться, чай, не разоритесь.

Нет, ну а как иначе? Оставим адекватность оценки опасности, положим, и вправду оно опасно. И если эта зараза со смартфоном выйдет из своей квартиры, она всех перезаражает. А если – страшно подумать – двинется в другой регион? Нет, только массовые расстрелы штрафы спасут Родину!

Ну и что вы думаете?? Эти заразы, обе, таки двинулись в другой регион!!! И не то, чтобы двинулись, а, прямо-таки издеваясь, посещали его чуть ли не каждые десять минут! Разумеется, за каждое посещение им назначался штраф. А как же ещё? Раз эти мрази слов не понимают? Логично? Логично!!!

Оказалось, правда, что этот самый другой регион находился в их же собственной квартире. Только на балконе. Телефон именно на балконе хватал сигнал не с московской вышки, а с вышки из Московской области.

Ну и кто вам тут виноват? Все же хотели как лучше, ну правда же ж?
А как теперь это расхлёбывать? Стоп-стоп, а кому оно вообще надо, это расхлёбывать? Этим мразям, которых оштрафовали? Ну и пусть разбираются, нам-то что за дело? Как? Да как хотят. Мы же: программу заказали, получили, внедрили, деньги давным-давно усвоены, ну а кто же теперь признается, что деньги потрачены на дерьмо? Этак нас и самих начнут считать дерьмом, а так же нельзя! А если посадить людей, чтобы вручную разбирались с такими случаями, это ж надо обосновывать им зарплаты, и опять же признавать, что мы внедрили дерьмо?

Нет, ну позвольте! – может сказать внимательный читатель, какая-то справедливость какие-то базовые принципы должны ведь быть в стране, чтобы тупые железные автоматы сами по своему выбору не расстреливали наказывали живых людей!

Ага, такие принципы в природе существуют, и у нас они тоже были. Это называется презумпция невиновности. То есть, грубо говоря, ни один человек не может быть признан виновным, если такая виновность не доказана. Так. И где же оная презумпция? А её попросту отменили. Взяли вот, и отменили. Конечно же, для всеобщего блага. Ну так и кушайте теперь это благо с кашей.

Началось это с внедрением камер, следящих за соблюдением правил дорожного движения. Ну неудобно же every fucking time каждый чёртов раз разбираться, кто там сидел за рулём, когда авто превысило разрешённую скорость. Так что давайте будем всегда считать, что виноват владелец авто, и если что, пусть сам доказывает, что он не верблюд. Удобно? Удобно! Пипл, как говорится, хавает? Да хавает, аж за ушами трещит. Каждый ведь считает, что уж его-то любимого, пупа Земли, такая фигня никогда не коснётся, потому что не может такого быть никогда.

И каждый свято верит, что Искусственный Интеллект умнее любого человека. Просто по определению. Во что именно на самом деле он верит, и что из этой веры может произойти, мы рассмотрим в следующей части.


*) реальный случай, известен автору из первых рук

Список литературы
1. Сергей Морозов. "Рефлексоиды"

(продолжение)
This entry was originally posted at https://mcjabberwock.dreamwidth.org/567113.html.
Tags: (C)Я, дебилы на марше, неестественный интеллект
Subscribe

  • Post a new comment

    Error

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

    When you submit the form an invisible reCAPTCHA check will be performed.
    You must follow the Privacy Policy and Google Terms of use.
  • 8 comments