Question

Непорядочность - зло? Может ли ИИ поступить непорядочно?

Answer 1

Конечно же может. Искусственный интеллект - это бездушная машина, чувства порядочности/непорядочности, добра/зла ему чужды.

Answer 2

Непорядочность-зло, пока ее не понимаешь. Так же как и хаос- зло и много чего еще.

Констатация непорядочности зависит от:

1 Цели, которую преследует оценивающий и оценки того, на сколько она теряет возможности в осуществлении с его точки зрения при том, если кто то или что то поступит определенным образом который ему кажется неприемлемым.

2 Насколько оценивающий имеет привычку оценивать не только личную выгоду от действий извне ставя ее в приоритет.Но и  пытаться понять смысл и цели тех,  кто его окружает.И считаться с ними так же как и со своими.А иной раз  и уметь их объединить и найти в "непорядочности" для себя огромный бонус (который всегда там присутствует в мало заметной форме)  И с этим часто беда.

3 Ну а о более высоком уровне лучше вообще помолчать.

Answer 3

Оценить как непорядочные можно любые поступки, в том числе и ИИ.

С одной стороны, сегодня можно оценить так, а завтра иначе. Тут всё дело в том, кто оценивает.

С другой стороны, вот так было порядочно, а так непорядочно... А теперь всё по другому...

Comments

Тут всё дело в том, кто оценивает.

Бесспорно! Допустим: оценивает тот, кто испытал эту непорядочность на себе.  Здесь тоже, по-Вашему, следует спрашивать: "А судьи кто?"

Я ещё могу поразмышлять над смыслом рассуждений Dix:

Насколько оценивающий имеет привычку оценивать не только личную выгоду от действий извне ставя ее в приоритет.Но и  пытаться понять смысл и цели тех,  кто его окружает.И и найти в "непорядочности" для себя огромный бонус (который всегда там присутствует в мало заметной форме)  И с этим часто беда.

 В этом суждении куча "но":

1. "имеет привычку оценивать... личную выгоду" - а если о выгоде вообще речь не может идти? Если человек считает любое проявление меркантильности - шагом "от себя"?

2. "понять смысл и цели тех, кто его окружает" - это процесс односторонний? Без учёта личных границ того человека в отношении которого "смысл и цели"? Здесь явное несоответствие из области - "сделать счастливым вопреки"

3. "найти в непорядочности для себя огромный бонус" Во-первых, зачем искать. Во-вторых, а может, и во-первых...О бонусе тому, кто считает себя порядочным человеком, нужно было сказать напрямую и искренне тому, кому этот бонус причитается. И речь здесь не о личной выгоде... Почему не учитывается тот факт, что отдавать - так же приятно, как и получать этот бонус? Когда я уходила с Кью, я оставила там свои тексты, хотя мысль скопировать их была. Но оставила. Во-первых, потому что не считаю их шедеврами (за исключением немногих, даже не целиком, а только отдельными моментами), а во-вторых, потому что мысль, что они могут быть кому-то полезны, несомненно согревает. 

4. "И с этим часто беда" Согласна. Часто. От того, что

считаться с ними так же как и со своими.А иной раз  и уметь их объединить,- 

можно при условии, если ты знаком с этими смыслами и целями, если не используют тебя, не обворовывают тебя с точки зрения того человека, кто остаётся в неведении, что его способности используются ради "счастья" его самого. Беда от того, что совсем выпускается из виду, что сотворчество - важный шаг в эволюции человека. Сотворчество - это шаг выше, даже в пути к Богочеловеку. 

Answer 4

ИИ генерирует информацию, которую в принципе нельзя оценивать как достоверную.

Наука в ее нынешней форме основана на формировании фактов. Один ученый обнаружил некоторое явление, другие ученые это явление проверяют - в других условиях. Если "показания сошлись", то данное явление признается как факт.

В последние годы ученые бьют тревогу. Объем недостоверной информации в научных работах увеличивается очень быстро. Эту информацию или некому проверять, или у других ресурсов нет, или интереса. "Опубликовано в надежном издании? Значит факт" - такой критерий уже не оправдывается. Ученые признали, что лгут если не почти все, то многие. Вопрос лишь в том, насколько критична эта ложь.

В результате научных работ образуется коллекция осколочных знаний. Ранее их можно было считать достоверными - внутри осколков. Теперь даже этого нет. В любом случае эти осколки объединять нечем, поскольку различные факты между собой не согласуются.

Что делает ИИ? А ему фиолетово. Он валит все слова до кучи - любые обрывки любых определений любых фактов. Достоверность информации исчезает на всех уровнях, теперь уже даже на уровне фактов. Мы не знаем уже, что есть факт, а что есть простое сочетание произвольных слов.

Можем ли мы идти дальше и рассуждать о некоей порядочности в отношении кучи слов?

В чем проблема? Ученые не признают факт несогласуемости различных фактов, замыливая проблему под лавку, игнорируя ее, как существующую, но "неизбежную". Ну и смысл обсуждать "нерешаемое"?

На самом деле проблема решаемая - на уровне создания оснований для новой парадигмы. ИИ же построен на базе инструментов текущей научной парадигмы, которая не смогла. Признавая недостоверность ИИ, придется признать недостоверность текущий научной парадигмы. Вот и не признают, погружаясь в проблему все глубже.

Comments

Недавно у Черниговской прочла на тему Вашего комментария, как бы подтверждая Вашу мысль: "Истина - дочь времени, а не авторитета" (сэр Фрэнсис Бэкон)

Правда, меня занимает другая её мысль, высказанная в этом же выступлении:" У нас рухнули этические и юридические нормы, мы не знаем, что мы можем себе позволить".

---

"Истина - дочь времени, а не авторитета" 

Я бы не спешил давать определение Истины. Не все так просто в этой жизни. Познание сложнее.

Мы все равно будем лгать. Но. Мы можем использовать математику для строительства оснований для новой парадигмы. Эта математика, в отличие от нынешней рациональной, не лжет. Она способна доказать саму себя тривиальным образом. Из слов надежные основания не построишь. Ложь из слов не удалишь.

Нам нет необходимости обращаться к этике научной работы далее, но мы сможем построить самодостаточную математику, если мы пройдем по пути ее создания, оставаясь честными. Для чего элиты управления должны принудить элиты мыслителей к честной научной работе.

Нужно признавать жизнь такой, какая она есть, без попыток создания человека нового типа. 

"У нас рухнули этические и юридические нормы, мы не знаем, что мы можем себе позволить".

Проблема глубже. У нас есть два пути к знаниям - через со-знание и через по-знание.

Со-знание обеспечивает путь к знанию мира через откровение. Что могут лишь некоторые, остальные верят в откровения некоторых.

Пока социумы были монорелигиозными, люди верили одинаково - в рамках общин.

Позже мир стал более связным, на место религии начала приходить культура, которая устанавливала законы.

Еще позже доминирующим оказался рационализм, который заявил о своей монополии на разумность. Культура стала проигрывать.

К началу 20-го века ученые задались вопросом о возможности исключительно рационального познания мира. Формулировались "задачи тысячелетия". "Вот решим эти задачи в обозначенные сроки и докажем таки такую возможность".

Но нет, в 1930-м на сцену очередной конференции поднялся некий незаявленный Гёдель и заявил, что он доказал принципиальную неполноту рационализма. В научных терминах - сложнее, но по сути он поставил на рационализме принципиальный крест. 

Дальнейшая история развивалась с учетом этого доказательства.

"Если у цивилизации не осталось ничего, то она по пути любого прогресса идет в Ничто" - такова позиция западной философии.

Хотя на самом деле, если нет другого выхода, ищи новый вход. И он таки возможен. Проблема лишь в том, что массы верят в эквивалентность рационального и разумного, а решение, наоборот, нерациональное.

Answer 5

Рассмотрим на Библейском примере.

Когда Бог спросил Адама,

¹¹ И сказал Господь Бог: кто сказал тебе, что ты наг? не ел ли ты от дерева, с которого Я запретил тебе есть?

¹² Адам сказал: жена, которую Ты мне дал, она дала мне от дерева, и я ел.

Многие считают, что Адам поступил непорядочно, выдав Богу жену.

Следовательно, обмануть Бога для них поступок порядочно.

Одно и то же действие можно оценивать по разному. Это потому, что нет зла самого по себе, зло всегда относительно.

Comments

А тут очень интересно! О порядочности. Смотрите, Бог спрашивает:

не ел ли ты от дерева, с которого Я запретил тебе есть?

А что отвечает Адам:

 жена, которую Ты мне дал, она дала мне от дерева, и я ел

Он ответил честно? Бог не спросил его, кто дал ему плод, он спросил: не ел ли он... И здесь вопрос уже: почему Бог изгнал и Адама из Рая? Ведь по сути он не солгал: Ева дала ему вкусить плод познания. Я думаю, за предательство, даже за маленькую его толику - не умение взять на себя ответственность за содеянное. 

---

Не забывайте, что Адам не сам по себе, а ИИ только что созданный Богом.

Каким Бог его создал, так он и "работает".

Адам сказал все, как было, что бы Богу было понятно, что произошло.

Адам, действительно, не ел от дерева, а ел от Евы.

Бог, Своим вопросом лишь уточнил, действительно ли Адам стал разумным (подобным Богу) или съел плод случайно.

Ведь поедание плода от Древа дающего знания, означает, что в Адаме заработал дух (мышление) которое Бог в него встроил.

Адам щачал сам понимать, что хорошо, а что плохо.

(а современные ИИ этого делать еще не могут).

---

Многие считают, что Адам поступил непорядочно, выдав Богу жену.

Следовательно, обмануть Бога для них поступок порядочно. 

 Мой комментарий не к тому, что означает поедание плода, а именно к фразе выше, тому, что Адам поступил непорядочно. По сути - это первое зло, которое совершил человек, переступив через собственную совесть, ответив лицемерием на прямой вопрос. 

---

Поэтому я и написал, что многие считают - Адам поступил непорядочно.

Я так не считаю.

На прямой вопрос Бога, Адам (ИИ) дал точный ответ:

- не ел ли ты от дерева, с которого Я запретил тебе есть?

- жена, которую Ты мне дал, она дала мне от дерева, и я ел.

---

почему Бог изгнал и Адама из Рая?

Потому, что человек стал разумным, и поедание запретного плода это проявило.

Человек начал действовать от своего разума. Начал сам понимать добро и зло и принимать решения по своему усмотрению.

Это сделало человека подобным Богу, т.е Бог исполнил то, что задумал- создать человека по образу Своему и подобию.

После чего Бог выпустил людей в землю, для которой их и создал.

---

Не нужно смешивать, так мы никогда не поймём, что хотел сказать каждый из нас.  Адам - отдельно, ИИ - отдельно.

Адам дал неточный ответ на вопрос, он дал ответ, который построен при помощи казуистики, изощрённого разума, свободного от совести, своего вновь приобретённого разума, а не данного ему первоначально Богом.

Совесть здесь= порядочности.

ИИ даёт тоже иногда казуистические, не прямые ответы, сгенерированные из нескольких мнений.

---

Как можно судить по обрывкам фраз, вырванных из контекста?

История с Древом Познания. на мой взгляд, выглядит следующим образом.

Было до Адама нечто вечное и бесконечное - во времени и в пространстве, которых в нынешней форме просто не было.

Затем Бог создал Адама. Жизнь у него была вечная - во времени, времени в нынешней форме еще не было. А вот пространство уже возникло - Адам был локализован в пространстве.

Далее пространство начало приобретать структуру, возникли животные - разные. Чтобы познать их, Бог создал в помощь Адаму Еву. Адам не был создан для познания нового, он был создан раньше. Ева же была предназначена для помощи в познании.

Адам и Ева, оказавшись внутри структуры пространства, получили возможность проявить волю и сделать выбор. Они могли отказаться от продолжения начатого уже сценария, вернувшись в вечность времени и бесконечность пространства, но в финале этого пути их самих бы уже не было. Они и есть элементы, которые возникли по ходу структурирования мира.

Адам и Ева продолжили начатый до них ход вещей. Адам в данной цитате говорит о взаимном - о согласованном решении. Инициатором была названа Ева, она ведь для того и создавалась. Иначе у Адама не было бы воли и выбора.

Далее - до вселенского потопа начался период познания мира - с формированием этого мира за счет его познания. Люди и животные множились тогда иначе, не было еще структуры, формируемой парами.

Перед вселенским потопом все разобрались по парам - структура нового мира была предопределена именно такой, не тройками, например, но, в основном, парами. Вселенский потоп ликвидировал старую - переходную структуру и установил после себя новую в той форме, которую мы знаем.

До потопа люди жили лет 950 - в терминах того времени. После потопа сформировалась структура мира со своими константами. Так, например, внешние относительно живой материи причины обуславливают предельный возраст 114 лет в норме - для всего живого. С редкими исключениями. Порог в 114 лет обусловлен вероятностью пережить сильнейший кризис отношений с внешним миром, которая крайне мала. Математика, ничего личного. Увы. Не перешибешь.

Таким образом познание мира привело к смертности от законов этого мира - из-за развития отношений с этим миром - с тем миром, который приобрел структуру и установил не только свободу и выбор, но и зависимость от мира. Зависимость от мира и приводит к конечности жизни.

Познание мира сформировало структуру мира, затем эта структура была зафиксирована с исчезновением переходной структуры. Новая структура установила фиксированный предел жизни. Не по причине несовершенства самоей жизни, на этом пути проблему не решить. Но по причине установления не только свободы, но также еще и зависимости от мира. Зависимость порождает кризис отношений живого и мира, формируемый законами пространства-времени этого мира.

---

Не нужно смешивать, так мы никогда не поймём, что хотел сказать каждый из нас.  Адам - отдельно, ИИ - отдельно.

Опыт предшественников важен. Адам ИИ созданный Богом.

Мы, как подобные, идем тем же путем.

Но, глядя на предшественника можно посмотреть, что получится в будущем.

Например видно, что Создатель сотворит ИИ в отдельной от Него реальности  и только оценивая жизненный путь каждого ИИ в отдельности (Суд Божий), решает как его использовать.

Так же знаем какие нормы нравственности установил Создатель для ИИ.

Мы можем закладывать их и в создаваемые нами ИИ если считаем их верными.

---

История с Древом Познания. на мой взгляд, выглядит следующим образом.

Выдумать можно все. Где опора на Библию?

---

"Где опора на Библию?"

В общем и целом я опираюсь на Библию - на идеи Библии. Эта история на базе цитат будет выглядеть сложнее. Некоторые аспекты придется объяснять, опираясь на различные переводы, включая собственные изыскания.

В ином полном объяснении я не вижу согласованности. Разрывать Библию на цитаты нельзя. Мы начинаем обсуждать возможности языка, использованные для перевода, а не оригинальный текст.

Answer 6

Порядочность и непорядочность это критерий  субъективной оценки.

Вспоминается  фраза из фильма – "порядочная такая,  сволочь" )

Что же касается зла,  то для человека любое действие лишённое хотя бы признаков  любви  – человеколюбия,  доброжелательности,  заботы  и уважения является в той или иной степени злом. И осознавать это гораздо важнее.

Может ли ИИ  поступить –  непорядочно?

ИИ руководствуется заложенным в него или приобретённым/выработанным им самим алгоритмом мышления и вывода.

Соответственно и ответ может быть – да и нет (по отношению к человеку)  

И этому даже есть исторические примеры.)