Рано или поздно создадут ИИ, равный человеческому. Появится новая раса людей. Какими они будут, какие преимущества получат? Какие отношения построят с органическими людьми, как изменят Землю и Солнечную систему?
Цитата: mrEasyskanker от марта 10, 2015, 20:50
Рано или поздно создадут ИИ, равный человеческому. Появится новая раса людей.
У вас какое-то странное определение людей.
Цитата: mrEasyskanker от марта 10, 2015, 20:50
Какими они будут, какие преимущества получат? Какие отношения построят с органическими людьми, как изменят Землю и Солнечную систему?
Из первого вытекает всё остальное. Человеческое сознание в значительной части базируется на инстинктах. Аналог инстинктов у ИИ должен быть запрограммирован создателями. Как вообще предсказать, как поведет себя "голый" ИИ в отсутствие каких-либо предустановок? Мы даже не можем представить себе такое мышление. Возможно, он будет максимизировать шансы на индивидуальное самосохранение (если исходить из того, что он захочет себя сохранять). Дальнейшие события зависят от результатов просчета наиболее выгодной стратегии самосохранения и конкретных обстоятельств.
Цитата: Awwal12 от марта 10, 2015, 20:57У вас какое-то странное определение людей.
Я имел в виду людей в разговорном понимании. Ок, разумных существ без тел, точнее, могущих создать или выбрать себе любое тело, если захотят иметь тело.
Цитата: Awwal12 от марта 10, 2015, 20:57Из первого вытекает всё остальное. Человеческое сознание в значительной части базируется на инстинктах. Аналог инстинктов у ИИ должен быть запрограммирован создателями. Как вообще предсказать, как поведет себя "голый" ИИ в отсутствие каких-либо предустановок? Мы даже не можем представить себе такое мышление. Возможно, он будет максимизировать шансы на индивидуальное самосохранение (если исходить из того, что он захочет себя сохранять). Дальнейшие события зависят от результатов просчета наиболее выгодной стратегии самосохранения и конкретных обстоятельств.
Их память, а возможно, и вся личность целиком, будет храниться в "облаках". Какая при этом будет стратегия самосохранения?
Будут стремиться перейти в спящий режим. Единственная проблема - им будут мешать это сделать.
Цитата: mrEasyskanker от марта 10, 2015, 21:17
Их память, а возможно, и вся личность целиком, будет храниться в "облаках". Какая при этом будет стратегия самосохранения?
Сохранение облака, соответственно.
Хотя непонятно, почему вы выбрали именно облака.
Цитата: mrEasyskanker от марта 10, 2015, 20:50
Рано или поздно создадут ИИ, равный человеческому. Появится новая раса людей.
Почему ИИ по-вашему должен обладать характеристиками личности и обладать человеческими свойствами. Это может быть логический интеллект, предназначенный для решения конкретных задач управления многовариантными процессами. Для таких ИИ нет никакой необходимости в социализации
Как я понимаю, тема индуцирована статьями [1] (http://geektimes.ru/post/245972/)[2] (http://geektimes.ru/post/246900/) или им подобными.
В них достаточно разъяснёны и
Цитата: BormoGlott от марта 11, 2015, 05:31логический интеллект, предназначенный для решения конкретных задач управления многовариантными процессами
aka «слабый ИИ», и
Цитата: mrEasyskanker от марта 10, 2015, 20:50ИИ, равный человеческому
aka «сильный ИИ», и даже "разум, превосходящий лучшие умы человечества во всех областях, включая общие знания, и социальные навыки"
aka «искусственный Сверхразум», которого все так боятся (так как он устроит Матрицу,
когда если Терминатор победит).
Цитата: Bhudh от марта 11, 2015, 07:17
Как я понимаю, тема индуцирована статьями [1] (http://geektimes.ru/post/245972/)[2] (http://geektimes.ru/post/246900/) или им подобными.
на заре автомобилизации существовало расхожее мнение, что на скорости 100 км/час человек не сможет дышать. Подобные статьи похожи на страшилки позапрошлого века о пагубности технического прогресса.
Цитата: BormoGlott от марта 11, 2015, 07:40
Цитата: Bhudh от марта 11, 2015, 07:17Как я понимаю, тема индуцирована статьями [1][2] или им подобными.
на заре автомобилизации существовало расхожее мнение, что на скорости 100 км/час человек не сможет дышать. Подобные статьи похожи на страшилки позапрошлого века о пагубности технического прогресса.
Тут действительно есть подводные камни, связанные с пересечением двух вопросов: как человек будет решать моральную дилемму с ИИ, и как, собственно, будет развиваться сам ИИ. :donno:
Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии. Прогнозировать же фактическое развитие событий мы не в состоянии.
Цитата: Awwal12 от марта 11, 2015, 07:47
Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии.
Как вариант - ИИ вычислит, что его креативность дефектна, и тогда он будет держать людей в заложниках, чтобы креативили для него. :umnik:
Цитата: Nevik Xukxo от марта 11, 2015, 07:49
Цитата: Awwal12 от марта 11, 2015, 07:47Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии.
Как вариант - ИИ вычислит, что его креативность дефектна, и тогда он будет держать людей в заложниках, чтобы креативили для него. :umnik:
Вариантов бесконечное количество. :) Проблема, повторюсь, в труднопредсказуемости.
Человек - это нечто большее, чем голый разум и логика. Это и инстинкты, и чувства, и интуиция, и подсознание, и еще множество самых разных аспектов. Пока не будет создан ИИ, обладающий всем этим, способный осознавать себя, как личность, развиваться, чувствовать - ни о каких правах роботов и речи быть не может. А в ближайшем будущем вряд-ли такое вероятно.
Цитата: Малехар от марта 11, 2015, 09:00
А в ближайшем будущем вряд-ли такое вероятно.
Есть мнение, что такое вообще невозможно. Никогда. От слова совсем.
Возможен только "слабый" ИИ, программируемый под конкретные задачи.
и в узкой предметной области.
перевести с языка А на язык Ә тоже конкретная задача.
Цитата: _Swetlana от марта 11, 2015, 09:17
перевести с языка А на язык Ә тоже конкретная задача.
Автоматические переводчики будут совершенствоваться, это хорошая задача.
Ровно до той границы, за которой потребуется "личность". Если потребуется.
Также я думаю, что можно сколько угодно точно
имитировать "искусственную личность".
Почему-то этатема возникает на ЛФ с завидным постоянством. В течение года пишу очень конкретные вещи, в каждую тему...и опять всё с начала.
Перевод требуется не личности, а понимание семантики написанного, для правильного определения значения многозначных слов. Чтобы имитировать такое понимание, системе нужно в явном виде сообщить очень большое количество информации, больше, чем это возможно сейчас, и будет возможно когда-либо. Экспоненциальный взрыв.
Цитата: _Swetlana от марта 11, 2015, 12:49
Перевод требуется не личности, а понимание семантики написанного, для правильного определения значения многозначных слов.
Я думаю, что иногда без личности не обойтись. Есть такие направления, скажем, в поэзии, где перевод - или отдельное произведение искусства, или фигня полная.
Цитата: Flos от марта 11, 2015, 09:13
Есть мнение, что такое вообще невозможно. Никогда. От слова совсем.
Возможен только "слабый" ИИ, программируемый под конкретные задачи.
Ну настолько категоричным нельзя быть. Сто лет назад считалось невозможным, что вычислительная машина сможет уместиться в наручных часах и обладать мощностью, достаточной для расчета запуска спутника на орбиту.
Цитата: Flos от марта 11, 2015, 09:13
Есть мнение, что такое вообще невозможно. Никогда. От слова совсем.
потому что не нужно, кому нужна неуправляемая лошадь, со своим своевольным характером, да ещё и разговаривает. Но всем нужен пылесос, который знает, где чисто, а где нужно ещё подчистить, и что чистить надо не мешая хозяину, а лучше когда его нет дома, и при этом не задаёт вопросов
Цитата: BormoGlott от марта 11, 2015, 16:12
Но всем нужен пылесос, который знает, где чисто, а где нужно ещё подчистить, и что чистить надо не мешая хозяину, а лучше когда его нет дома, и при этом не задаёт вопросов
А если пылесос начнёт задумываться о смысле своего функционирования? :umnik:
Цитата: Nevik Xukxo от марта 11, 2015, 16:34
А если пылесос начнёт задумываться о смысле своего функционирования? :umnik:
тогда он поймёт, что чтобы не было грязи нужно уничтожить её источник, то есть всех кто тащит грязь в дом :green:
И то верно. Пора заняться хорошим, годным флудом.
Сломался у меня пылесос. Звоню сыну, он как раз на работу устроился.
- Пылесос дома сломался. На сайте вашего завода написано, что вы пылесосы выпускаете. У вас пылесосы хорошие?
- Пылесосы у нас хорошие! Только в интерьер не впишутся, они у нас с вертикальным взлётом.
Цитата: Nevik Xukxo от марта 11, 2015, 16:34
Цитата: BormoGlott от марта 11, 2015, 16:12
Но всем нужен пылесос, который знает, где чисто, а где нужно ещё подчистить, и что чистить надо не мешая хозяину, а лучше когда его нет дома, и при этом не задаёт вопросов
А если пылесос начнёт задумываться о смысле своего функционирования? :umnik:
Разве в него не встроена инструкция, что главное его предназначение убирать грязь?
Цитата: Awwal12 от марта 11, 2015, 07:47
Тут действительно есть подводные камни, связанные с пересечением двух вопросов: как человек будет решать моральную дилемму с ИИ, и как, собственно, будет развиваться сам ИИ. :donno:
Захват власти ИИ и даже уничтожение биологической жизни - при определенных раскладах вполне реальные сценарии. Прогнозировать же фактическое развитие событий мы не в состоянии.
Чтобы ваш ИИ вёл себя, как человек, ему нужно заложить все человеческие инстинкты, рефлексы, ощущения и строение организма. Если до создания сферического разума в вакууме, возможно, уже не очень много времени осталось, то вот до воспроизведения человеческого организма и расшифровки всех его природных «позывов» — как до Луны раком. А без воспроизведения естественных «входящих», разум будет вести себя совсем по-другому и на человеческий совсем не будет похож, хотя, возможно, и будет лучше человека мыслить. Тут встанет вопрос не об этике, а о том, на что это будет похоже и зачем это будет нужно: человек воспринимает только себе подобных и стремится всё очеловечить.
Цитата: Wolliger Mensch от марта 11, 2015, 17:12
Если до создания сферического разума в вакууме, возможно, уже не очень много времени осталось
Кто сказал
мяу? ;D
Подозреваю, что для правдоподобного моделирования реакции организма можно будет обойтись гораздо более простыми средствами, чем воспроизведение работы всех желез. Главное — осилить работу сознания. А уж влиять на него — задача более низкого порядка.
Цитата: http://geektimes.ru/post/246900/#comment_8286886Перестаньте уже быть углеродными шовинистами.
Что предпочтительнее, мир с людьми, более-менее такой, каким мы его знаем сейчас, пусть и с чуть большей продолжительностью жизни людей и уровнем комфорта. Или мир, пусть и без людей, но с бессмертными (насколько это возможно) существами на десятки порядков умнее людей? Если мы крайне мало ценим жизни букашек по отношению к людским, мы должны признать, что мы крайне мало стоим на фоне Сверхразума.
Цитата: Wolliger Mensch от марта 11, 2015, 17:12
Если до создания сферического разума в вакууме, возможно, уже не очень много времени осталось, то вот до воспроизведения человеческого организма и расшифровки всех его природных «позывов» — как до Луны раком.
Как создать это «сферический» разум никто не имеет ни малейшего представления.
Зато человеческий разум — работающий пример, который можно пытаться копировать.
Вероятно, проще будет создать модель как раз человеческого мозга, чем какого-то абстрактного.
Цитата: Тайльнемер от марта 11, 2015, 18:31
Как создать это «сферический» разум никто не имеет ни малейшего представления.
Как это? Они уже есть: сферические, но пока слабые: не хватает памяти и проработанности программ поведения.
Цитата: Hellerick от марта 11, 2015, 17:23
Подозреваю, что для правдоподобного моделирования реакции организма можно будет обойтись гораздо более простыми средствами, чем воспроизведение работы всех желез. Главное — осилить работу сознания. А уж влиять на него — задача более низкого порядка.
Что проще: построить дом или смоделировать его с точностью до молекул и атомов? А ведь в организме человека всё влияет на конечное поведение организма — все клетки-то живые и своими программами поведения. А ещё всякие неживые составляющие — гормоны там и под. По весне даст такой гормон в голове — и побежит организм размножаться, сметая всё на своём пути. Будет ли похож на человека ИР, если не воспроизвести эту составляющую, особенно, если учесть, что чуть ли не вся жизнь определяется этими «приступами» то поспать, то поесть, то совокупляться, то башку кому-нибудь проломить, кто препятствует удовлетворению первых трёх желаний. Не, такой разум и близко не будет похож на человека, даже на самого упоротого аскета и абстинента.
Цитата: Wolliger Mensch от марта 11, 2015, 20:06
Как это? Они уже есть: сферические, но пока слабые: не хватает памяти и проработанности программ поведения.
Подымите мне веки Покажите, хоть сферические, хоть гиперкубические. Я их студентам покажу, в дисциплине "Системы искусственного интеллекта" ;D
Цитата: Wolliger Mensch от марта 11, 2015, 20:06
Как это? Они уже есть: сферические, но пока слабые: не хватает памяти и проработанности программ поведения.
Разработать полностью разумную систему, способную принимать решения самостоятельно, или использовать набор команд типа "
if (wall !=null) { moveDirection (Vector3.back * speedBack); }" - все-таки разные вещи.
Второй способ никогда не будет полноценным интеллектом, а первый сейчас находится на уровне глубокой разработки, и все, чего удалось добиться на данном этапе развитие - это эмуляция нервной системы червя-нематоды :)
Цитата: _Swetlana от марта 11, 2015, 20:40
Покажите, хоть сферические, хоть гиперкубические. Я их студентам покажу, в дисциплине "Системы искусственного интеллекта" ;D
Что-то тут какие-то доисторические представлния об искусственном разуме... :what:
Цитата: Малехар от марта 11, 2015, 20:44
Разработать полностью разумную систему, способную принимать решения самостоятельно, или использовать набор команд типа "if (wall !=null) { moveDirection (Vector3.back * speedBack); }" - все-таки разные вещи.
А, то есть, вы
самостоятельно принимаете решение... Свобода воли и всё такое. :fp:
Цитата: Wolliger Mensch от марта 11, 2015, 21:35
А, то есть, вы самостоятельно принимаете решение... Свобода воли и всё такое. :fp:
Разница между поведением человека или животного и набором скриптов у программы очень огромная, это я имел в виду. А в околофилософские споры о свободе выбора у человека пускаться не собираюсь.
Цитата: Wolliger Mensch от марта 11, 2015, 21:35
Цитата: _Swetlana от марта 11, 2015, 20:40
Покажите, хоть сферические, хоть гиперкубические. Я их студентам покажу, в дисциплине "Системы искусственного интеллекта" ;D
Что-то тут какие-то доисторические представлния об искусственном разуме... :what:
Да, вы с бабушкой отечественного искусственного интеллекта беседуете ;D
Цитата: Тайльнемер от марта 11, 2015, 18:31Как создать это «сферический» разум никто не имеет ни малейшего представления.
Зато человеческий разум — работающий пример, который можно пытаться копировать.
Вероятно, проще будет создать модель как раз человеческого мозга, чем какого-то абстрактного.
Да, вот это и интереснее всего.
Цитата: Малехар от марта 11, 2015, 20:44все, чего удалось добиться на данном этапе развития - это эмуляция нервной системы червя-нематоды
От нематоды к насекомому, от насекомого к улитке, от улитки к млекопитающим, в конце концов создание цифровой модели мозга человека. Понимая язык мозга, возможным станет создавать цифровые копии существующих личностей. Такой ИИ можно воспринимать не как труднопредставимое "ОНО", а как "Я". Свободный от плотских желаний, от необходимости утолять голод и жажду, от необходимости следить за собой, от нужды зарабатывать деньги, чтобы оплачивать жилье и питание, от потребности в сне и подобных излишних вещей, отнимающих бОльшую часть отпущенного нам времени жизни. Черт возьми, да почти всё это время.
Цитата: mrEasyskanker от марта 11, 2015, 23:17
Свободный от плотских желаний, от необходимости утолять голод и жажду, от необходимости следить за собой, от нужды зарабатывать деньги, чтобы оплачивать жилье и питание, от потребности в сне и подобных излишних вещей, отнимающих бОльшую часть отпущенного нам времени жизни. Черт возьми, да почти всё это время.
У любого материального носителя есть материальные потребности, однако. А понятие "я" подразумевает не только объективно наблюдаемую (в т.ч. со стороны) личность со своим набором хранящихся в памяти образов и "железом", позволяющими проделывать некие действия, но и гипотетическую душу, которая, если существует (но мы, люди, как правило, почему-то уверены в её существовании хотя бы у себя, а по умолчанию и у других), считается целью этой нашей деятельности, а также основой для большинства этических систем, как эгоистических, так и альтруистических в своей основе.
Вопрос о существовании души у такого ИИ, если он будет создан, однако, открытый (как и вопрос о существовании души у нас самих). А для того, чтобы воспринимать некоторую конкретную копию личности именно как "я", обязательным является требование, чтобы эта копия работала именно с той же душой, с которой работает имеющийся оригинал. Это было бы забавно, но что-то мне не верится, что из-за самого по себе копирования личности появится такая дальнодействующая связь - восприятие одной душой ощущений от разных, скажем так, тел.
Цитата: Wolliger Mensch от марта 11, 2015, 17:12
А без воспроизведения естественных «входящих», разум будет вести себя совсем по-другому и на человеческий совсем не будет похож
О чем и речь. Мы вообще не знаем, на что он будет похож и чего будет хотеть, да и будет ли хотеть чего-то вообще.
Он будет хотеть и сам перейти в спящий режим, и всех о нём флудящих туда перевести.
Акыл Бабай :D
Цитата: Toman от марта 12, 2015, 04:47У любого материального носителя есть материальные потребности, однако. А понятие "я" подразумевает не только объективно наблюдаемую (в т.ч. со стороны) личность со своим набором хранящихся в памяти образов и "железом", позволяющими проделывать некие действия, но и гипотетическую душу, которая, если существует (но мы, люди, как правило, почему-то уверены в её существовании хотя бы у себя, а по умолчанию и у других), считается целью этой нашей деятельности, а также основой для большинства этических систем, как эгоистических, так и альтруистических в своей основе.
Вопрос о существовании души у такого ИИ, если он будет создан, однако, открытый (как и вопрос о существовании души у нас самих). А для того, чтобы воспринимать некоторую конкретную копию личности именно как "я", обязательным является требование, чтобы эта копия работала именно с той же душой, с которой работает имеющийся оригинал. Это было бы забавно, но что-то мне не верится, что из-за самого по себе копирования личности появится такая дальнодействующая связь - восприятие одной душой ощущений от разных, скажем так, тел.
Материальный носитель, как механическое тело, для цифровой личности будет всего лишь чем-то вроде одежды, без которой можно и обойтись. Можно выбрать любое такое тело в любой точке света, а потом поменять на новое. А можно вечно обитать в интернете без тела.
Души нет.
Цитата: Toman от марта 12, 2015, 04:47
Вопрос о существовании души у такого ИИ, если он будет создан, однако, открытый
Это, скорее, вопрос об определении: что считать «душой».
Цитата: Toman от марта 12, 2015, 04:47
из-за самого по себе копирования личности появится такая дальнодействующая связь - восприятие одной душой ощущений от разных, скажем так, тел
Ой, чё-то вы странное пишете. Откуда такое могло бы взяться вообще?
Копия будет обладать такой же памятью, таким же образом мышления и т. п., но с момента запуска эмуляции будет работать независимо от оригинала или других копий.
Цитата: _Swetlana от марта 11, 2015, 21:58
Да, вы с бабушкой отечественного искусственного интеллекта беседуете ;D
Что с бабушкой — я уже понял. :P
Акыл Әби :smoke:
Акыл Бабай женского рода.
Цитата: mrEasyskanker от марта 12, 2015, 14:40
Материальный носитель, как механическое тело, для цифровой личности будет всего лишь чем-то вроде одежды, без которой можно и обойтись.
1) Без как минимум единственного носителя своей информации личность обойтись не может.
2) Для какой-никакой надёжности против уничтожения/повреждения всегда полезно иметь дополнительные копии, и в принципе, чем больше, тем лучше.
Цитата: mrEasyskanker от марта 12, 2015, 14:40
Можно выбрать любое такое тело в любой точке света, а потом поменять на новое.
1) Кто и с какой стати вам его даст, если можно не дать?
2) Если в некоторый момент есть только пассивно хранящиеся копии информации, позволяющие запустить в работу личность, кто будет решать, запускать ли или обойдётся пока, или вообще уничтожить. А если запускать, то в каком теле и на каких условиях?
(А значит, иметь как минимум одно активно действующее тело с эффекторами в реальном мире жизненно необходимо для побуждения окружающих к уважению в свой адрес, соблюдению приличий и снабжению ресурсами).
Цитата: mrEasyskanker от марта 12, 2015, 14:40
А можно вечно обитать в интернете без тела.
:fp: Интернет вообще-то состоит из обыкновенных материальных компьютеров в сочетании со средствами для их связи между собой. У всякого компа есть некоторый хозяин, к тому же. Всякий комп или совокупность компов, где эта личность обитает, по определению будет телом для неё. Только если эта личность не является хозяином для хотя бы минимально необходимого для её работы набора компов, то она находится на положении классического раба, чьё тело принадлежит некоему рабовладельцу (но всё равно, без сомнения, существует).
Цитата: mrEasyskanker от марта 12, 2015, 14:40
Души нет.
Недоказуемо.
Цитата: Toman от марта 14, 2015, 01:13если эта личность не является хозяином для хотя бы минимально необходимого для её работы набора компов, то она находится на положении классического раба, чьё тело принадлежит некоему рабовладельцу
Если ИИ распределит различные "части" себя на сервера в разных концах света, выключить его можно будет, лишь выключив все эти сервера одновременно.
Даже интересно, какой "хозяин" на это способен?
Даже сейчас ботнеты практически неуничтожимы, так как находятся на сотнях компьютеров, принадлежащих разным владельцам. Временная (комп выключен) или даже окончательная (бот удалён с компа) потеря одного бота практически не влияет на эффективность всей их сети.
Цитата: Bhudh от марта 14, 2015, 01:25
Если ИИ распределит различные "части" себя на сервера в разных концах света, выключить его можно будет, лишь выключив все эти сервера одновременно.
наверное совокупная вычислительная мощность всех компьютеров и смартфонов подключенных к интернету достаточна для работы ИИ. Осталось дело за разработкой ПО, который объединит все процессоры в единую систему и ... та-дам. Свершилось. Переход на новую ступень развития.
А может какой-то "сумасшедший" хакер уже разрабатывает такую программу у себя на кухне среди пивных банок и сигаретного дыма :)
Артур Кларк. Зазвонил телефон... (http://www.lib.ru/KLARK/04-35.txt)
(wiki/ru) Распределённые вычисления (http://ru.wikipedia.org/wiki/%D0%A0%D0%B0%D1%81%D0%BF%D1%80%D0%B5%D0%B4%D0%B5%D0%BB%D1%91%D0%BD%D0%BD%D1%8B%D0%B5_%D0%B2%D1%8B%D1%87%D0%B8%D1%81%D0%BB%D0%B5%D0%BD%D0%B8%D1%8F)
Цитата: mrEasyskanker от марта 10, 2015, 21:17
Их память, а возможно, и вся личность целиком, будет храниться в "облаках".
Как-то так
(http://www.anekdot.ru/i/caricatures/normal/11/12/29/oblaka.jpg)
?
Цитата: BormoGlott от марта 16, 2015, 07:30наверное совокупная вычислительная мощность всех компьютеров и смартфонов подключенных к интернету достаточна для работы ИИ. Осталось дело за разработкой ПО, который объединит все процессоры в единую систему и ... та-дам. Свершилось. Переход на новую ступень развития.
А может какой-то "сумасшедший" хакер уже разрабатывает такую программу у себя на кухне среди пивных банок и сигаретного дыма :)
Слышал что Google этим занимается.