Искусственные личности

[Easyskanker]

Рано или поздно создадут ИИ, равный человеческому. Появится новая раса людей. Какими они будут, какие преимущества получат? Какие отношения построят с органическими людьми, как изменят Землю и Солнечную систему?

[Awwal12]

Рано или поздно создадут ИИ, равный человеческому. Появится новая раса людей.

У вас какое-то странное определение людей.

Какими они будут, какие преимущества получат? Какие отношения построят с органическими людьми, как изменят Землю и Солнечную систему?

Из первого вытекает всё остальное. Человеческое сознание в значительной части базируется на инстинктах. Аналог инстинктов у ИИ должен быть запрограммирован создателями. Как вообще предсказать, как поведет себя "голый" ИИ в отсутствие каких-либо предустановок? Мы даже не можем представить себе такое мышление. Возможно, он будет максимизировать шансы на индивидуальное самосохранение (если исходить из того, что он захочет себя сохранять). Дальнейшие события зависят от результатов просчета наиболее выгодной стратегии самосохранения и конкретных обстоятельств.

[Easyskanker]

У вас какое-то странное определение людей.

Я имел в виду людей в разговорном понимании. Ок, разумных существ без тел, точнее, могущих создать или выбрать себе любое тело, если захотят иметь тело.

Из первого вытекает всё остальное. Человеческое сознание в значительной части базируется на инстинктах. Аналог инстинктов у ИИ должен быть запрограммирован создателями. Как вообще предсказать, как поведет себя "голый" ИИ в отсутствие каких-либо предустановок? Мы даже не можем представить себе такое мышление. Возможно, он будет максимизировать шансы на индивидуальное самосохранение (если исходить из того, что он захочет себя сохранять). Дальнейшие события зависят от результатов просчета наиболее выгодной стратегии самосохранения и конкретных обстоятельств.

Их память, а возможно, и вся личность целиком, будет храниться в "облаках". Какая при этом будет стратегия самосохранения?

[_Swetlana]

Будут стремиться перейти в спящий режим. Единственная проблема - им будут мешать это сделать.

[Awwal12]

Их память, а возможно, и вся личность целиком, будет храниться в "облаках". Какая при этом будет стратегия самосохранения?

Сохранение облака, соответственно.
Хотя непонятно, почему вы выбрали именно облака.

[BormoGlott]

Рано или поздно создадут ИИ, равный человеческому. Появится новая раса людей.

Почему ИИ по-вашему должен обладать характеристиками личности и обладать человеческими свойствами. Это может быть логический интеллект, предназначенный для решения конкретных задач управления многовариантными процессами. Для таких ИИ нет никакой необходимости в социализации

[Bhudh]

Как я понимаю, тема индуцирована статьями [1][2] или им подобными.
В них достаточно разъяснёны и

логический интеллект, предназначенный для решения конкретных задач управления многовариантными процессами

aka «слабый ИИ», и

ИИ, равный человеческому

aka «сильный ИИ», и даже "разум, превосходящий лучшие умы человечества во всех областях, включая общие знания, и социальные навыки" aka «искусственный Сверхразум», которого все так боятся (так как он устроит Матрицу, когда если Терминатор победит).

[BormoGlott]

Как я понимаю, тема индуцирована статьями [1][2] или им подобными.

на заре автомобилизации существовало расхожее мнение, что на скорости 100 км/час человек не сможет дышать. Подобные статьи похожи на страшилки позапрошлого века о пагубности технического прогресса.

[Awwal12]

Как я понимаю, тема индуцирована статьями [1][2] или им подобными.

на заре автомобилизации существовало расхожее мнение, что на скорости 100 км/час человек не сможет дышать. Подобные статьи похожи на страшилки позапрошлого века о пагубности технического прогресса.

Тут действительно есть подводные камни, связанные с пересечением двух вопросов: как человек будет решать моральную дилемму с ИИ, и как, собственно, будет развиваться сам ИИ.
Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии. Прогнозировать же фактическое развитие событий мы не в состоянии.

[Nevik Xukxo]

Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии.

Как вариант - ИИ вычислит, что его креативность дефектна, и тогда он будет держать людей в заложниках, чтобы креативили для него.

[Awwal12]

Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии.

Как вариант - ИИ вычислит, что его креативность дефектна, и тогда он будет держать людей в заложниках, чтобы креативили для него.

Вариантов бесконечное количество. Проблема, повторюсь, в труднопредсказуемости.

[Малехар]

Человек - это нечто большее, чем голый разум и логика. Это и инстинкты, и чувства, и интуиция, и подсознание, и еще множество самых разных аспектов. Пока не будет создан ИИ, обладающий всем этим, способный осознавать себя, как личность, развиваться, чувствовать - ни о  каких правах роботов и речи быть не может. А в ближайшем будущем вряд-ли такое вероятно. 

[Flos]

А в ближайшем будущем вряд-ли такое вероятно.

Есть мнение, что такое вообще невозможно. Никогда. От слова совсем.
Возможен только "слабый" ИИ, программируемый под конкретные задачи.

[_Swetlana]

и в узкой предметной области.

[_Swetlana]

перевести с языка А на язык Ә тоже конкретная задача.

[Flos]

перевести с языка А на язык Ә тоже конкретная задача.

Автоматические переводчики будут совершенствоваться, это хорошая задача.
Ровно до той границы, за которой потребуется "личность". Если потребуется.

Также я думаю, что можно сколько угодно точно имитировать "искусственную личность".

[_Swetlana]

Почему-то этатема возникает на ЛФ с завидным постоянством. В течение года пишу очень конкретные вещи, в каждую тему...и опять всё с начала.
Перевод требуется не личности, а понимание семантики написанного, для правильного определения значения многозначных слов. Чтобы имитировать такое понимание, системе нужно в явном виде сообщить очень большое количество информации, больше, чем это возможно сейчас, и будет возможно когда-либо. Экспоненциальный взрыв.

[Flos]

Перевод требуется не личности, а понимание семантики написанного, для правильного определения значения многозначных слов.

Я думаю, что иногда без личности не обойтись. Есть такие направления, скажем, в поэзии, где перевод - или отдельное произведение искусства, или фигня полная.

[Малехар]

Есть мнение, что такое вообще невозможно. Никогда. От слова совсем.
Возможен только "слабый" ИИ, программируемый под конкретные задачи.

Ну настолько категоричным нельзя быть. Сто лет назад считалось невозможным, что вычислительная машина сможет уместиться в наручных часах и обладать мощностью, достаточной для расчета запуска спутника на орбиту.

[BormoGlott]

Есть мнение, что такое вообще невозможно. Никогда. От слова совсем.

потому что не нужно, кому нужна неуправляемая лошадь, со своим своевольным характером, да ещё и разговаривает. Но всем нужен пылесос, который знает, где чисто, а где нужно ещё подчистить, и что чистить надо не мешая хозяину, а лучше когда его нет дома, и при этом не задаёт вопросов

[Nevik Xukxo]

Но всем нужен пылесос, который знает, где чисто, а где нужно ещё подчистить, и что чистить надо не мешая хозяину, а лучше когда его нет дома, и при этом не задаёт вопросов

А если пылесос начнёт задумываться о смысле своего функционирования?

[BormoGlott]

А если пылесос начнёт задумываться о смысле своего функционирования?

тогда он поймёт, что чтобы не было грязи нужно уничтожить её источник, то есть всех кто тащит грязь в дом

[_Swetlana]

И то верно. Пора заняться хорошим, годным флудом.
Сломался у меня пылесос. Звоню сыну, он как раз на работу устроился.
- Пылесос дома сломался. На сайте вашего завода написано, что вы пылесосы выпускаете. У вас пылесосы хорошие?
- Пылесосы у нас хорошие! Только в интерьер не впишутся, они у нас с вертикальным взлётом.
 

[alant]

Но всем нужен пылесос, который знает, где чисто, а где нужно ещё подчистить, и что чистить надо не мешая хозяину, а лучше когда его нет дома, и при этом не задаёт вопросов

А если пылесос начнёт задумываться о смысле своего функционирования?

Разве в него не встроена инструкция, что главное его предназначение убирать грязь?

[Wolliger Mensch]

Тут действительно есть подводные камни, связанные с пересечением двух вопросов: как человек будет решать моральную дилемму с ИИ, и как, собственно, будет развиваться сам ИИ.
Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии. Прогнозировать же фактическое развитие событий мы не в состоянии.

Чтобы ваш ИИ вёл себя, как человек, ему нужно заложить все человеческие инстинкты, рефлексы, ощущения и строение организма. Если до создания сферического разума в вакууме, возможно, уже не очень много времени осталось, то вот до воспроизведения человеческого организма и расшифровки всех его природных «позывов» — как до Луны раком. А без воспроизведения естественных «входящих», разум будет вести себя совсем по-другому и на человеческий совсем не будет похож, хотя, возможно, и будет лучше человека мыслить. Тут встанет вопрос не об этике, а о том, на что это будет похоже и зачем это будет нужно: человек воспринимает только себе подобных и стремится всё очеловечить.