artyom_ferrier (artyom_ferrier) wrote,
artyom_ferrier
artyom_ferrier

Category:

О перспективах ИИ vs. Гомосап

Как-то намедни имел беседу с молодёжью о перспективах замены человека искусственным интеллектом на многих-многих поприщах.

Ну, знаете, некоторые очень восторженно, почти экстатически к этому относятся. Утверждают, что скоро и продавцов, и водителей, и даже биржевых брокеров заменит компьютер. А всех неверующих — объявляют «ретроградами» и «луддитами».

Что ж, я лично — всей душой за технический прогресс. Раз уж мы по-любому сошли со счастливого пути естественного для гомо сапиенс охотничье-собирательского бытия и назад дороги нет — только и остаётся, что наращивать материальную культуру для того, чтобы распространиться по другим планетам и перестать париться из-за угрозы перенаселённости. Но вот касательно перспектив замены человека искусственным интеллектом — я настроен не так оптимистично, как восторженные, но несколько оторванные от жизни энтузиасты этого дела.

Как по мне, роботы и компьютеры могут во многих случаях служить помощником человека. Удобным, полезным помощником. Но не более того. Не стоит преувеличивать их возможности. Как бы ни велики были вычислительные мощности, что действительно позволяет очень быстро обрабатывать потоки входящих данных, «соображать» в полном смысле компьютер не умеет. И никогда не научится. Он не имеет воли, он не способен к самостоятельному целеполаганию, а значит, а приори может руководствоваться только тем, что в него вложили люди, программисты. Они же, как бы ни были умны — естественно, не могут предусмотреть все возможные ситуации и написать алгоритмы на все случаи жизни.

Все же эти рассуждения про самообучающиеся нейросети — ну это так, очередные новомодные словечки, обозначающие в принципе всё то же, над чем работают уже десятилетиями. И вот как подспорье человеку — компьютер может кое-что дать. Но любые попытки сделать из него самостоятельного игрока — оканчиваются плачевно. Потому что это всё же тупая железюка, а не мыслящее существо — и не может им стать, не может быть конкурентом человеку в таких делах, где хоть немножко нужно соображать.

Если кому-то подобное утверждение кажется голословным — то вот представьте себе, где бы в первую очередь должно было проявиться преимущество искусственного интеллекта. Ну, наверное, в таких делах, где на это имеется коммерческий спрос, и в такой реальности, которая смоделирована искусственным же образом, а потому в этот электронный мозг можно вложить все-все-все правила этой реальности (что затруднительно по отношению к истинному окружающему миру, поскольку мы сами до сих пор знаем не все правила, по которым он живёт, мы их только постигаем последние пятьдесят тысяч лет, но каждый год встречаем «удивительное рядом»).

Ну и вот настоящий мир слишком сложен даже для людей, не говоря уж про компьютеры, а искусственная реальность, чьё разнообразие весьма ограниченно — была бы идеальна для демонстрации возможностей ИИ. И первая такая демонстрация — должна была бы состояться в компьютерных игрушках. Это коммерческий продукт, где игроки хотят получить некий челлендж в виде истинно «умного» ИИ, производители стремятся его усовершенствовать — и что?

Знаете, я много раз слышал байки, мол, наш ИИ такой умный, такой крутой, что всех уделает, если дать ему волю. Но тогда игрокам будет неинтересно, они отчаются и бросят игру, поэтому приходится искусственно «затуплять» наш умнейший ИИ.

Ага. Такие байки — я слышал действительно много раз. Но вот примера «незатуплённого» ИИ, который бы действовал не то что «гениально», а вот хотя бы на очень посредственном человеческом уровне, чуть-чуть повыше олигофренического — нет, ни разу не встречал. И в действительности, хотя в игрушках ИИ могут «затуплять» на очень низких уровнях сложности, заставляя работать заведомо неэффективно, но высокие уровни сложности — никогда не достигаются тем, что там «умный» ИИ. Он просто — чуть меньший идиот, чем на низких. А так-то сложность достигается тем, что компьютерным противникам даётся больше тех или иных ресурсов, та или иная фора, то есть им откровенно подыгрывают, ставя изначально в привилегированное положение по сравнению с игроком-человеком. Но всё равно, когда он разбирается в игровой механике, постигает алгоритмы, по которым действует ИИ — рвёт влёгкую, даже несмотря на изначальные «малусы» в ресурсах. Исключений — нет.

И даже в тех игрушках, где значительную роль играет не стратегическое мышление, а вполне себе спинно-мозговые рефлексы (ну, сетевые шутеры, или «танчики» те же) — попытки «ботов» противостоять игрокам-людям смотрятся очень жалко. Хотя в действительности есть конкретные стимулы для создания эффективных ботов. Поскольку есть люди, готовые платить за них живые деньги. Чтобы этот бот играл, пока они спят, зарабатывал игровую валюту, приближая апгрейды. Но вот реальные возможности ботов с ИИ — они, мягко говоря, очень скромные. Самый совершенный бот — в подмётки не годится весьма средненькому игроку с хоть каким-то опытом. Хотя, конечно, он моментально собирает всю поступающую информацию, без шанса что-то прозевать, в отличие от человека, и безошибочно производит математические расчёты (например, по упреждению при стрельбе по движущейся цели) — но у него начисто нет тактической гибкости. Он в принципе не способен оценивать изменение ситуации за рамками того, что в него вложили. И как только человеческий игрок разбирается с алгоритмами, по которым живут боты — начинается «избиение младенцев».

Ну и вот если даже в таком бизнесе, как компьютерные игрушки, где существуют идеальные условия для проявления ИИ и существует коммерческий стимул к тому, всё равно не удаётся создать по-настоящему толкового «робота» - о чём вообще говорить? Какая, нахер, замена человека роботами в делах реального мира, который заведомо много сложнее виртуальной реальности?

В лучшем случае — «могу копать, могу не копать». Здесь — да, роботы могут быть полезны. Но при условии, конечно, что их деятельность будет контролировать человек. Что ключевые решения всё-таки будет принимать он. Ибо, как бы ни был порой нерадив и туговат человек, но роботу — ему просто пофиг на результат труда, он в принципе никогда не поймёт, для чего нужно то, что он делает, поэтому любое столкновение с «непротокольной» ситуацией кончится таким эпик фейлом, что никакие самые дремучие таджикские гастеры не сподобятся устроить.

Особенно умиляет — заверения, что скоро автопилот вытеснит водителей из-за баранки. Потому как «лучше».

Но в этой связи, конечно, немножко обескураживает недавний инцидент с автопилотом Убера, насмерть сбившим тётку с велосипедом.

И вот находятся люди, которые смотрят это видео и говорят: «Да ладно, там ДТП было неизбежно, и человек тоже бы не сумел уйти».

Честно, я очень надеюсь, что у этих людей нет водительских прав — или что они, по крайней мере, ими не пользуются последние лет много и не намерены пользоваться.

Нет, если не брать в расчёт клинические случаи, то нормальный водитель должен был уйти от наезда. Там, извините, секунда где-то от первого отсвета фар на велосипеде — до столкновения. Более чем достаточно для удара по тормозам. И даже если б коснулся — ну, ушибом дело бы ограничилось. Хотя по-настоящему нормальный водитель — он бы успел вывернуть руль влево.

Более того, сколько-нибудь нормальный водитель — он бы сбросил газ чисто инстинктивно, когда только подъезжал к этому месту. Там освещённый участок на тёмной дороге — и человек именно что на уровне инстинктов понимает, что это как световая завеса. Поэтому — проявляет осторожность. Должен проявлять. И вот если б кто-то из нашего молодняка завалился в подобном месте на тренажёре — ну, с получением прав пришлось бы подождать полгодика минимум. Ибо — нет, это абсолютно НЕ нормально, совершать такие «детские» ДТП. И плевать, что велосипедистка переходила в неположенном месте. Ты всегда должен быть готов к тому, что у тебя по курсу окажется какой-нибудь удолбанный пешик. Тем более ночью. Тем более — при преодолении светоконтрастной зоны.

Компьютер — этого нифига не понимает. В него это не вложили. Ибо всё вложить невозможно. Поэтому, честно признаюсь: да, я очень скептически отношусь к перспективам использования ИИ даже в таком простом, рутинном деле, как вождение автомобиля. Можно, после этого инцидента, доработать алгоритм преодоления светоконтрастных зон, можно даже поставить тепловизионный сенсор (странно, что его не было), который в любом случае заметит теплокровное препятствие — но всё это годится только для оповещения водителя об опасностях, которые он, возможно, не заметил. А так-то будут возникать всё новые и новые ситуации, в которых компьютер не сможет выкрутиться, поскольку он не умеет и не способен научиться в полном смысле «думать».

Ситуации же в реальной жизни могут быть очень разнообразные. Предположим даже, что вот оборудован автопилот всеми сенсорами, безошибочно выявляет пешеходов, свято блюдёт главную заповедь: не допустить касания с ними.

Но как вам это понравится, когда вы едете по глухой лесной дороге, а её вам преграждают стрёмного вида мужики с топорами, которые явно чего-то от вас хотят? Очень трогательна в этом случае будет забота ИИ о сбережении пешеходов — но немножко неуместна.

Как-то прописать в программе, что в целом пешиков давить нельзя, но в некоторых случаях можно? Как насчёт вирусов, получаемых при обновлении системы? Весёленький «кармагеддон» может получится.

В целом же, ну конечно соблазнительная идея, чтобы автопилот брал на себя рутину, езду по трассе в общем потоке, парковку, всё такое. Но полностью при этом лишаться возможности мгновенного перехвата управления человеком — это безумие. Такую возможность обязательно надо оставлять.

Вот только человек, который привык, что в основном за него рулит автопилот — может немножко утратить навыки вождения, и в критический момент — действительно оказаться хуже ИИ.

Поэтому и приходится очень скептически относиться к идее вытеснения человека из-за баранки. Уж сначала — резоннее было бы перевести на автоматику поезда, где всё-таки модель попроще. Тем не менее — и это довольно стрёмно. Уж лучше потратиться на зарплату машиниста, чем целиком доверяться Искусственному Идиоту. Особенно, если понимать, насколько в действительности убоги бывают его возможности даже в условиях виртуальной реальности, специально созданной для него.

В этой связи — немножко переживаю за Илона Маска, поскольку имею изрядно акций Теслы. Конечно, проект по-прежнему имеет очень хорошие перспективы, но, возможно, они допустили стратегическую ошибку, сделав слишком сильный упор на трёшке. Которая, между нами, всё-таки очень сомнительного качества лоховозка (по сравнению с великолепными эской и ксюшкой), «электротазик», как обзывают друзья, ездившее на ней (сам я — нет, только на эске), которая сделана будто бы нарочито презрительно по отношению к водителю и должна подкупать возможностью «расшаривания» с использованием автопилота. То есть, приехал в офис, а машину — отпустил на «вольные хлеба», зарабатывать деньги извозом.

Так вот эта возможность — может накрыться. Ибо чем дальше — тем больше будет выявляться неустранимое несовершенство автопилота, и скорее всего, его если допустят на дороги общего пользования — то вот только для каких-нибудь фур, идущих малой скоростью в крайне правом ряду и обязанных тормозить при малейшем подозрении на что-то непонятное. Насколько будет востребовано такое чудо техники — хрен его знает. Но такси с автопилотом — это, ей-богу, не тот brave new world, о котором приходилось бы мечтать. И есть сильное подозрение, что эту идею зарубят законодательно не потому, что такие ретрограды и враги прогресса, а потому, что хватит уж на дорогах и человеческих водятлов, хрен знает как получивших права, чтобы добавлять ещё и электронных лунатиков, которые «неорганически» и принципиально не могут соображать, чего творят.

Без возможностей же автопилота — тесловская трёшка действительно довольно убогая тачилка. Пока спрос на неё есть, сотни тысяч предзаказов сохраняются — но, возможно, скоро будет сплошное разочарование. Во всяком случае, если фирма не удосужится сделать нормальную приборную панель. А то ж необходимость скашивать взгляд вправо всякий раз, когда хочешь узнать свою скорость — дополнительный фактор аварийности. Да и просто ощущение — как в китайской какой-то дешёвке. Чего, вообще-то, не ожидают от машины за восемьдесят тысяч баксов (ну, когда укомплектована всеми опциями).

То есть, эска и ксюшка — они безусловно стоят своих денег, могли бы и дороже продаваться. Трёшка — может вскоре оказаться провалом. Поэтому на месте Маска я бы не слишком ею увлекался, тем более — в ущерб полноценным машинам.

Нет, понятно, что он старается создать «массовку», чтобы окупить энергозаправочные сети, чтобы эти трёшки подтолкнули развитие инфраструктуры, а там можно наращивать и выпуск нормальных электрокаров. Но вот надежду на концепцию автопилота — я бы постарался исключить из схемы. Ибо дурацкая концепция.

Да, но может ли ИИ заменить хотя бы продавцов? Что ж, кассиров в супермаркетах — наверное, может. Это действительно крайне механистическая работа. Но вот продавец в мелких лавочках — это немножко больше, чем «автомат по обмену денег на товары». С ним как-то и попиздеть можно, о местных делах разузнать. Думаю, на это свойство — спрос сохранится.

Что же до новшеств автомобильного дизайна, то вот могу «ванговать» в ближайшее время не столько переход на автопилот (эту моду скоро бросят, думаю), а исчезновение лобового стекла. Ей-богу, для этого-то реально имеются предпосылки. Вот уже сейчас бывает, особенно ночью, когда мне гораздо удобнее вести по монитору, где даётся осветлённое изображение, а живые существа, в том числе на обочине, подсвечиваются красным контуром, на всякий случай. Замечу, этот монитор над приборной паньлью — не входит в число опций от ФАГ, это мы сами устанавливаем.

И, ей-богу, было бы куда лучше, когда б имел полностью вместо лобовухи — жидкокристаллическую панель. Где было бы всё то же самое, но с некоторой обработкой изображения для удобства.

И тогда, сохраняя «метр жизни» переднего отсека, можно было бы нарастить его для лучшей аэродинамики и грузовместимости. Вот за этим — реально будущее. Камеры, бортовой компьютер и монитор — реально технологически готовы к тому, чтобы давать более удобный и безопасный обзор, нежели лобовуха. Думаю, такие решения появятся довольно скоро. Ибо они позволяют компьютеру выступать именно в той роли, на какую он годится — в роли помощника. Но о замене человека Искусственным Идиотом даже в сравнительно простых делах реального мира (простых, но требующих принятия неких принципиальных решений) — речь идти не может ни сейчас, ни через тысячу лет. Вне зависимости от того, какие там будут квантовые компьютеры.

Tags: грядущее, технологии
Subscribe

  • Ковид как айсберг

    Когда вперёдсмотрящий на Титанике увидел айсберг прямо по курсу, вахтенный офицер скомандовал «право на борт» и «полный…

  • Дети и заработки

    Наткнулся в Сети на дискуссию о детских заработках. Вернее, одна блогерша сетовала, что у неё на даче всё бурьяном заросло, и вот она раздумывала,…

  • Навальный, ветеран и анимистские начала правосудия

    Продолжается очередное судилище над Навальным, на сей раз — по делу о «клевете» на ветерана. Возможно, тут даже свершится чудо и…

  • Post a new comment

    Error

    Anonymous comments are disabled in this journal

    default userpic

    Your reply will be screened

    Your IP address will be recorded 

  • 38 comments

  • Ковид как айсберг

    Когда вперёдсмотрящий на Титанике увидел айсберг прямо по курсу, вахтенный офицер скомандовал «право на борт» и «полный…

  • Дети и заработки

    Наткнулся в Сети на дискуссию о детских заработках. Вернее, одна блогерша сетовала, что у неё на даче всё бурьяном заросло, и вот она раздумывала,…

  • Навальный, ветеран и анимистские начала правосудия

    Продолжается очередное судилище над Навальным, на сей раз — по делу о «клевете» на ветерана. Возможно, тут даже свершится чудо и…