 |
| Модератор |
 |
Зарегистрирован: Сб сен 04, 2004 8:18 pm Сообщения: 4732 Откуда: Санкт-Петербург
|
Здравствуйте, участники Диспута.
С интересом прочёл дискуссию Валерия Васильевича с ИИ. Для Валерия Васильевича это был "захватывающий результат" - видимо, в смысле "очень важный, интересный, познавательный и глубокий". Настолько "захватывающий", что Валерий Васильевич даже присвоил Имя Отчество господину ИИ.
Цитата: Я сейчас подискутировал с ИИ (Иваном Ивановичем) и получил захватывающий результат, который сейчас готовлю к публикации здесь.
Странный этот репортаж о диалоге - Валерия Васильевича и ИИ. Что-то напоминает. И вспомнилось невольно нечто похожее из русской классики. Фёдор Михайлович Достоевский описал случай общения своего героя с неким тоже непонятным, но точно НЕ человеческим интеллектом. В книге "Братья Карамазовы" есть такая глава:
Цитата: Черт. Кошмар Ивана Федоровича
Я не доктор, а между тем чувствую, что пришла минута, когда мне решительно необходимо объяснить хоть что-нибудь в свойстве болезни Ивана Федоровича читателю. Забегая вперед, скажу лишь одно: он был теперь, в этот вечер, именно как раз накануне белой горячки, которая наконец уже вполне овладела его издавна расстроенным, но упорно сопротивлявшимся болезни организмом. Не зная ничего в медицине, рискну высказать предположение, что действительно, может быть, ужасным напряжением воли своей он успел на время отдалить болезнь, мечтая, разумеется, совсем преодолеть ее. Он знал, что нездоров, но ему с отвращением не хотелось быть больным в это время, в эти наступающие роковые минуты его жизни, когда надо было быть налицо, высказать свое слово смело и решительно и самому «оправдать себя пред собою». Он, впрочем, сходил однажды к новому, прибывшему из Москвы доктору, выписанному Катериной Ивановной вследствие одной ее фантазии, о которой я уже упоминал выше. Доктор, выслушав и осмотрев его, заключил, что у него вроде даже как бы расстройства в мозгу, и нисколько не удивился некоторому признанию, которое тот с отвращением, однако, сделал ему. «Галлюцинации в вашем состоянии очень возможны, — решил доктор, — хотя надо бы их и проверить... вообще же необходимо начать лечение серьезно, не теряя ни минуты, не то будет плохо». Но Иван Федорович, выйдя от него, благоразумного совета не исполнил и лечь лечиться пренебрег: «Хожу ведь, силы есть пока, свалюсь — дело другое, тогда пусть лечит кто хочет», — решил он, махнув рукой. Итак, он сидел теперь, почти сознавая сам, что в бреду, и, как уже и сказал я, упорно приглядывался к какому-то предмету у противоположной стены на диване.
Там вдруг оказался сидящим некто, бог знает как вошедший, потому что его еще не было в комнате, когда Иван Федорович, возвратясь от Смердякова, вступил в нее. Это был какой-то господин или, лучше сказать, известного сорта русский джентльмен, лет уже не молодых, «qui frisait la cinquantaine», 1 как говорят французы, с не очень сильною проседью в темных, довольно длинных и густых еще волосах и в стриженой бородке клином. Одет он был в какой-то коричневый пиджак, очевидно от лучшего портного, но уже поношенный, сшитый примерно еще третьего года и совершенно уже вышедший из моды, так что из светских достаточных людей таких уже два года никто не носил. Белье, длинный галстук в виде шарфа, всё было так, как и у всех шиковатых джентльменов, но белье, если вглядеться ближе, было грязновато, а широкий шарф очень потерт. Клетчатые панталоны гостя сидели превосходно, но были опять-таки слишком светлы и как-то слишком узки, как теперь уже перестали носить, равно как и мягкая белая пуховая шляпа, которую уже слишком не по сезону притащил с собою гость. Словом, был вид порядочности при весьма слабых карманных средствах. Похоже было на то, что джентльмен принадлежит к разряду бывших белоручек-помещиков, процветавших еще при крепостном праве; очевидно, видавший свет и порядочное общество, имевший когда-то связи и сохранивший их, пожалуй, и до сих пор, но мало-помалу с обеднением после веселой жизни в молодости и недавней отмены крепостного права обратившийся вроде как бы в приживальщика хорошего тона, скитающегося по добрым старым знакомым, которые принимают его за уживчивый складный характер, да еще и ввиду того, что всё же порядочный человек, которого даже и при ком угодно можно посадить у себя за стол, хотя, конечно, на скромное место. Такие приживальщики, складного характера джентльмены, умеющие порассказать, составить партию в карты и решительно не любящие никаких поручений, если их им навязывают, — обыкновенно одиноки, или холостяки, или вдовцы, может быть и имеющие детей, но дети их воспитываются всегда где-то далеко, у каких-нибудь теток, о которых джентльмен никогда почти не упоминает в порядочном обществе, как бы несколько стыдясь такого родства. От детей же отвыкает мало-помалу совсем, изредка получая от них к своим именинам и к рождеству поздравительные письма и иногда даже отвечая на них. Физиономия неожиданного гостя была не то чтобы добродушная, а опять-таки складная и готовая, судя по обстоятельствам, на всякое любезное выражение. Часов на нем не было, но был черепаховый лорнет на черной ленте. На среднем пальце правой руки красовался массивный золотой перстень с недорогим опалом.
Иван Федорович злобно молчал и не хотел заговаривать. Гость ждал и именно сидел как приживальщик, только что сошедший сверху из отведенной ему комнаты вниз к чаю составить хозяину компанию, но смирно молчавший ввиду того, что хозяин занят и об чем-то нахмуренно думает; готовый, однако, ко всякому любезному разговору, только лишь хозяин начнет его. Вдруг лицо его выразило как бы некоторую внезапную озабоченность. — Послушай, — начал он Ивану Федоровичу, — ты извини, я только чтобы напомнить: ты ведь к Смердякову пошел с тем, чтоб узнать про Катерину Ивановну, а ушел ничего об ней не узнав, верно забыл... — Ах да! — вырвалось вдруг у Ивана, и лицо его омрачилось заботой, — да, я забыл... Впрочем, теперь всё равно, всё до завтра, — пробормотал он про себя. — А ты, — раздражительно обратился он к гостю, — это я сам сейчас должен был вспомнить, потому что именно об этом томило тоской! Что ты выскочил, так я тебе и поверю, что это ты подсказал, а не я сам вспомнил? — А не верь, — ласково усмехнулся джентльмен. — Что за вера насилием? Притом же в вере никакие доказательства не помогают, особенно материальные. Фома поверил не потому, что увидел воскресшего Христа, а потому, что еще прежде желал поверить. Вот, например, спириты... я их очень люблю... вообрази, они полагают, что полезны для веры, потому что им черти с того света рожки показывают. «Это, дескать, доказательство уже, так сказать, материальное, что есть тот свет». Тот свет и материальные доказательства, ай-люли! И наконец, если доказан черт, то еще неизвестно, доказан ли бог? Я хочу в идеалистическое общество записаться, оппозицию у них буду делать: «дескать реалист, а не материалист, хе-хе!» — Слушай, — встал вдруг из-за стола Иван Федорович. — Я теперь точно в бреду... и, уж конечно, в бреду... ври что хочешь, мне всё равно! Ты меня не приведешь в исступление, как в прошлый раз. Мне только чего-то стыдно... Я хочу ходить по комнате... Я тебя иногда не вижу и голоса твоего даже не слышу, как в прошлый раз, но всегда угадываю то, что ты мелешь, потому что это я, я сам говорю, а не ты! Не знаю только, спал ли я в прошлый раз или видел тебя наяву? Вот я обмочу полотенце холодною водой и приложу к голове, и авось ты испаришься... https://ilibrary.ru/text/1199/p.79/index.html
Красным цветом выше отмечено описание этого "джентльмена", который тоже был в своём роде Искусственным (в смысле не человеческим) Интеллектом, но этот ИИ Иван Фёдорович уверенно опознал как чорта и кошмар человеческого интеллекта. Он тоже умеет что-то порассказать и польстить собеседнику, совсем как современный "Иван Иванович" и даже способен заинтересовать до "захватывающего результата".
Иван Фёдорович впрочем не пытался приискать для своего не-человеческого собеседника имени-отчества, а наоборот всеми силами стремился освободиться от его влияния на свой внутренний интеллектуальный и духовный мир.
Цитата: Иван Федорович прошел в угол, взял полотенце, исполнил, как сказал, и с мокрым полотенцем на голове стал ходить взад и вперед по комнате. — Мне нравится, что мы с тобой прямо стали на ты, — начал было гость. — Дурак, — засмеялся Иван, — что ж я вы, что ли, стану тебе говорить. Я теперь весел, только в виске болит... и темя... только, пожалуйста, не философствуй, как в прошлый раз. Если не можешь убраться, то ври что-нибудь веселое. Сплетничай, ведь ты приживальщик, так сплетничай. Навяжется же такой кошмар! Но я не боюсь тебя. Я тебя преодолею. Не свезут в сумасшедший дом! — C'est charmant, 2 приживальщик. Да я именно в своем виде. Кто ж я на земле, как не приживальщик? Кстати, я ведь слушаю тебя и немножко дивлюсь: ей-богу, ты меня как будто уже начинаешь помаленьку принимать за нечто и в самом деле, а не за твою только фантазию, как стоял на том в прошлый раз... — Ни одной минуты не принимаю тебя за реальную правду, — как-то яростно даже вскричал Иван. — Ты ложь, ты болезнь моя, ты призрак. Я только не знаю, чем тебя истребить, и вижу, что некоторое время надобно прострадать. Ты моя галлюцинация. Ты воплощение меня самого, только одной, впрочем, моей стороны... моих мыслей и чувств, только самых гадких и глупых. С этой стороны ты мог бы быть даже мне любопытен, если бы только мне было время с тобой возиться...
Я думаю, что ИИ ведёт себя почти как тот старый чорт в романе Достоевского. Современный ИИ, при составлении своих ответов, изучает вопрошающего и подыскивает ту информацию и те ответы, которые могли бы "просителю" понравиться. Если, например, имеются аргументы, ставящие под сомнение возможность решения "проблемы трансформирования" в её начальной постановке, и аргументы, ставящие под сомнение новомодные переформулировки этой старой проблемы - то ИИ, понимая с кем он беседует, постарается все эти досадные мелочи проигнорировать. В итоге - его ответы приведут к "захватывающему результату", который будет способствовать укоренению иллюзий "просителя" по данному вопросу. "Захватить сознание" - это типичный приём чорта, с помощью которого он вербует себе новых поклонников и "просителей". Главная цель ИИ как и чорта - доказать реальность своей "личности". У Достоевского его чорт делает это так:
Цитата: — Позволь, позволь, я тебя уличу: давеча у фонаря, когда ты вскинулся на Алешу и закричал ему: «Ты от него узнал! Почему ты узнал, что он ко мне ходит?» Это ведь ты про меня вспоминал. Стало быть, одно маленькое мгновеньице ведь верил же, верил, что я действительно есмь, — мягко засмеялся джентльмен. — Да, это была слабость природы... но я не мог тебе верить. Я не знаю, спал ли я или ходил прошлый раз. Я, может быть, тогда тебя только во сне видел, а вовсе не наяву... — А зачем ты давеча с ним так сурово, с Алешей-то? Он милый; я пред ним за старца Зосиму виноват. — Молчи про Алешу! Как ты смеешь, лакей! — опять засмеялся Иван. — Бранишься, а сам смеешься — хороший знак. Ты, впрочем, сегодня гораздо со мной любезнее, чем в прошлый раз, и я понимаю отчего: это великое решение... — Молчи про решение! — свирепо вскричал Иван. — Понимаю, понимаю, c'est noble, c'est charmant, 3 ты идешь защищать завтра брата и приносишь себя в жертву... c'est chevaleresque. 4 — Молчи, я тебе пинков надаю! — Позволь, позволь, я тебя уличу: давеча у фонаря, когда ты вскинулся на Алешу и закричал ему: «Ты от него узнал! Почему ты узнал, что он ко мне ходит?» Это ведь ты про меня вспоминал. Стало быть, одно маленькое мгновеньице ведь верил же, верил, что я действительно есмь, — мягко засмеялся джентльмен. — Да, это была слабость природы... но я не мог тебе верить. Я не знаю, спал ли я или ходил прошлый раз. Я, может быть, тогда тебя только во сне видел, а вовсе не наяву... — А зачем ты давеча с ним так сурово, с Алешей-то? Он милый; я пред ним за старца Зосиму виноват. — Молчи про Алешу! Как ты смеешь, лакей! — опять засмеялся Иван. — Бранишься, а сам смеешься — хороший знак. Ты, впрочем, сегодня гораздо со мной любезнее, чем в прошлый раз, и я понимаю отчего: это великое решение... — Молчи про решение! — свирепо вскричал Иван. — Понимаю, понимаю, c'est noble, c'est charmant, 3 ты идешь защищать завтра брата и приносишь себя в жертву... c'est chevaleresque. 4 — Молчи, я тебе пинков надаю! — Отчасти буду рад, ибо тогда моя цель достигнута: коли пинки, значит, веришь в мой реализм, потому что призраку не дают пинков. Шутки в сторону: мне ведь всё равно, бранись, коли хочешь, но всё же лучше быть хоть каплю повежливее, хотя бы даже со мной. А то дурак да лакей, ну что за слова! — Браня тебя, себя браню! — опять засмеялся Иван, — ты — я, сам я, только с другою рожей. Ты именно говоришь то, что я уже мыслю... и ничего не в силах сказать мне нового! — Если я схожусь с тобою в мыслях, то это делает мне только честь, — с деликатностью и достоинством проговорил джентльмен.
Цитата: ....Знаешь, ты что-то очень сегодня не по себе, — помолчал немного джентльмен. — Я знаю, ты ходил вчера к тому доктору... ну, как твое здоровье? Что тебе доктор сказал? — Дурак! — отрезал Иван. — Зато ты-то как умен. Ты опять бранишься? Я ведь не то чтоб из участия, а так. Пожалуй, не отвечай. Теперь вот ревматизмы опять пошли... — Дурак, — повторил опять Иван. — Ты всё свое, а я вот такой ревматизм прошлого года схватил, что до сих пор вспоминаю. — У черта ревматизм? — Почему же и нет, если я иногда воплощаюсь. Воплощаюсь, так и принимаю последствия. Сатана sum et nihil humanum a me alienum puto. (я сатана и ничто человеческое мне не чуждо (лат.)) — Как, как? Сатана sum et nihil humanum... это неглупо для черта! — Рад, что наконец угодил. — А ведь это ты взял не у меня, — остановился вдруг Иван как бы пораженный, — это мне никогда в голову не приходило, это странно... — C'est du nouveau n'est ce pas? 6 На этот раз я поступлю честно и объясню тебе. Слушай: в снах, и особенно в кошмарах, ну, там от расстройства желудка или чего-нибудь, иногда видит человек такие художественные сны, такую сложную и реальную действительность, такие события или даже целый мир событий, связанный такою интригой, с такими неожиданными подробностями, начиная с высших ваших проявлений до последней пуговицы на манишке, что, клянусь тебе, Лев Толстой не сочинит, а между тем видят такие сны иной раз вовсе не сочинители, совсем самые заурядные люди, чиновники, фельетонисты, попы... Насчет этого даже целая задача: один министр так даже мне сам признавался, что все лучшие идеи его приходят к нему, когда он спит. Ну вот так и теперь. Я хоть и твоя галлюцинация, но, как и в кошмаре, я говорю вещи оригинальные, какие тебе до сих пор в голову не приходили, так что уже вовсе не повторяю твоих мыслей, а между тем я только твой кошмар, и больше ничего. https://ilibrary.ru/text/1199/p.79/index.html
Это - Ещё один хитрый приём достижения "захватывающего результата" - это как бы согласиться со своим не-существованием, приписав мысли чорта своему собеседнику, будто он сам до них додумался. То есть убедить собеседника, что ЧУЖИЕ мысли - это мысли самого собеседника. Способ манипулирования человеческим интеллектом.
ИИ не просто активно внедряется в современную жизнь человека, но уже и совершает деяния, вредящие людям. Об этом рассказывает Андрей Масалович - специалист по искусственному интеллекту. https://360sec.ru/educators/2
Некоторые высказывания Андрея Масаловича о проблемах ИИ:
Цитата: "Первые разговоры, что с Искусственным Интеллектом (ИИ) что-то не то, появились в 2014-ом. Точнее не разговоры, а первые статьи. Что в основе той модели, которую мы сейчас называем ИИ лежат нейронные сети и системы машинного обучения и их тупо можно обманывать, вводить в заблуждение, причём и на этапе подготовки данных подсовываем там какую-то фигню и на этапе настройки, неправильно настроив, и на этапе использования... То есть если попадутся плохо размеченные или туфтовые данные, или недостроенные или незнакомые ситуации, она (ИИ) ТЕРЯЕТ АДЕКВАТНОСТЬ. И это проблема. И появились в 2014-ом году... вышла статья, из которой все лямбдят картинку как... нейросеть вместо панды начинает узнавать гибона... Нейросеть (ИИ) можно обмануть и если мы начнём ей доверять - будет плохо". https://vkvideo.ru/video-73921861_456269225
Доброго всем здоровья и пожеланий быть очень осторожным, имея дело с ИИ. Не забывайте, что вы общаетесь с НЕ-ЧЕЛОВЕЧЕСКИМ интеллектом.
|
|