ЕИ - ИИ - социални отношения

[Алекс Белтов]

За любителите на лозунга "Свобода, равенство, братство" между ЕИ и ИИ пускам следния топик.

Да приемем хипотезата, че с развитието на ИИ (под каквато и физическа форма) се допусне равнопоставеност между ЕИ и ИИ. Логично е, че ще възникне съперничество между двата в борба за надмощие. Това съперничество неминуемо ще доведе до враждебност между двата рода.
Как може да се избегне това?

[Roland]

Като не се допусне равнопоставеност.

Защо всяка мисъл, свързана с ИИ, трябва да се пуска в отделна тема?

[ogonommo]

Не мисля, че е логично да се стигне до борба за надмощие. ИИ ще превъзхождат отделния човешки индивид, нямаме причина да вярваме, че ще наследят и собствените ни недостатъци. Враждебността е изцяло от страна на хората. Враждебност, която проявяваме вътревидово по всякакви поводи, по всякакви начини. Това, че не сме готови за появата на ИИ не означава, че ИИ няма да бъдат готови за нас ;) Т.е., ако можем да избегнем собствената си ксенофобия (същата, която практикуваме вътревидово) няма да имаме никакви проблеми с ИИ.

Съгласен съм с Roland, че не трябва толкова много теми за ИИ да бъдат създавани във форума. Затова, Алекс, предлагам да си спретнем нещо междублогово - теми, дискусии, препратки. Ако си навит драсни едно ЛС.

[Шаркан]

колкото и аматьорски анализ да правим, нека си даваме сметка за най-малко три неща:

1) хората няма да остават на същото (сегашно) равнище, което ще рече, че поводите за "расов конфликт" намаляват. Остават валидни междуличностните и междугруповите конфликти, при което няма значение произхода на дадена личност.
Говорейки за ИИ, говорим всъщност за определен тип устройства, градивни блокове.
Убеден съм, че такива блокове ще са съвместими с човешкия мозък. Т.е. става дума за киборгизация, при това доста фина, на клетъчно ниво (нищо общо с грубото "машинно" разбиране на киборгизацията).

2) появата на ИИ ни пренася в съвсем друг тип обществени отношения.
(защото един ИИ може да замени цял институт учени)
Има различни варианти как ще изглеждат подобни отношения, но категорично може да се каже, че ще представляват бледи аналози на това, което е било в човешката история

3) дори появата на ИИ да стане много внезапно, така че обществените нагласи да нямат време да се променят, дори ИИ да са изградени от компоненти, които по никакъв начин не могат да бъдат полезни за ъпгрейдване на човешкия мозък и тяло (което е малковероятно), лично на мен ми е много чудно, защо винаги се предполага франкенщайнов бунт на ИИ, а не се допуска бунт с друга насоченост - ПРОМЕТЕЕВА. Защо не се допусне, че ИИ ще застанат на едната от страните в прастария междучовешки конфликт?

та, накратко:
1. не е задължително ЕИ да изостава от ИИ
2. съществуването на ИИ значи нова епоха
3. ИИ може да не е само франкенщайново чудовище, но и Прометей

А по въпроса за "равноправието" - не може да има друго решение, освен равноправие. Иначе хората първи ще започнат конфликта, още преди да го има. И съответно сами ще си произведат противници по презумпция.
По-губеща позиция от това няма накъде повече.

и последно:
наистина, защо толкова много теми за едно и също нещо?
Макар че от друга страна - защо не?
Би било полезно обаче те да се свържат с линкове, което, струва ми се, би трябвало да е ангажимент на инициатора им.

[Дон Реба]

алекс, очевидно е че идеята за ИИ те е обсебила
но все пак, да си кажа мнението. няма смисъл да правим ИИ, ако то си има "собствени цели", такива безконтролни единици си имаме предостатъчно. ясно е че ИИ ще има такива мотиви, каквито му заложим, ако го направим да обича да яде лайна, ще яде лайна, ако го направим да обича да убива хора, ще убива хора. и тук е момента да изоставим второ лице множествено число, така любимо на патетично проповядващите интелектуалци и да минем по същество. значи, който и пръв да измисли концепцията (бях писал технология, но реших че е твърде принизяващо, все едно нов вид тъчскрийни), ако я огласи свободно става свинщина. това не е като атомната бомба, дето дори да знаеш как става, без огромни заводи и милиони човекочасове труд не става, това е нещо за което е достатъчен само компютър, нататъка има грижата първия протитип. с една дума всеки психопат ще може да си го направи. така че със сигурност ще има и такива с не особено благородни мотиви, и което е далеч по-опасно ще има такива с твърде благородни мотиви, и при всички случаи без леене на кръвчица няма да се мине. но касапницата в никакъв случай не я виждам ИИ срещу ЕИ, освен ако първооткривателя не се окаже някой мерзък мизантроп със сплъстена брада и черно под ноктите, живеещ в олющена съборетина без вода, смърдящ на пикоч и неистово мразещ целия несправедлив свят но някак тоя вариант ме съмнява, ако е за нещо в областта на физиката разбирам, но за да направиш ИИ трябва да познаваш добре ЕИ, което не се вписва в профила така че като цяло не вярвам да се стигне до конфликт ИИ срещу ЕИ

[Алекс Белтов]

Един интересен казус. Онзи ден, докато се шляех из сайта на "Сингуларен институт за ИИ", извинявам се за лошия превод, но си е така. Та докато се шляех по джапанки там, попаднах на един линк ( някакво wiki), който ми представи следната главоблъсканица:

- Ако искаме от ИИ да бъде креативен, как можем да знаем Той какво ще направи? Ако не знаем Той какво ще направи, как да сме сигурни, че ще е приятелски настроен?


Някакви идеи?

[Roland]

Не, че нещо, но аз не виждам как ИИ, създаден от учени, чието поколение е отраснало с Терминатор и Матрицата, ще съществува без МИНИМУМ трите закона на Азимов под някаква форма.

[Дон Реба]

Не, че нещо, но аз не виждам как ИИ, създаден от учени, чието поколение е отраснало с Терминатор и Матрицата, ще съществува без МИНИМУМ трите закона на Азимов под някаква форма.

самоуспокоения
първо, учените да си го кажем правичката са хора задръстени и лесно се управляват. повечето дето са градили атомни бомби са изтъкнати пацифисти, но за хората със социални умения (каквито са политиците) е детска игра да накарат учения да прави всичко каквото решат.
второ, не всички учени са пацифисти, особено днес.

[Шаркан]

учени, чието поколение е отраснало с Терминатор и Матрицата

шегуваш ли се? Ученият по определение е човек, който е надмогнал определени предразсъдъци на своето "поколение".
Да не говорим пък, че "поколение" е произволно групирана общност, която няма кой знае колко общи неща, освен ЕГН и някои спомени за събития и явления. Никой не е задължен да се държи "като поколението си".

Три или трийсет и три Закона = ИО, а не ИИ
ИО = изкуствен олигофрен
Защо? Защото едва се заеме с някоя практическа задача, едва започне да борави с неабстрактни данни, мисловният процес на ИИ ще бъден принуден да слаломира покрай императивите и в един момент или ще блокира, или трайно ще придобие "девиантното поведение" - тъкмо вследствие на тези Закони, които уж целят да предотвратят ДП, а всъщност го предизвикват.

[Roland]

Ами значи просто ще си го сънуваме това ИИ. Или вие ще си го сънувате, аз не съм примрял за него. Ако някой не го направи тайно в гаража си, просто няма да бъде допуснато форма на живот без ограничения да бъде пусната в мрежата (понеже тя няма къде другаде да съществува). Така или иначе много преди това ще сме се пренасочили към биопънк, та аз съм спокоен. Свръхчовеците ще ни изтребят преди да измислим машината, която да ни изтреби

[Шаркан]

Ами значи просто ще си го сънуваме това ИИ

риторичен въпрос: защо ли все очаквам на форум на фантасти задължително всеки да има широки и свободни възгледи за нещата?
Голям наивник си останах.

[Roland]

Ако под "щироки и свободни" разбираш "наивно идеалистично-утопични", да, нямам широки и свободни възгледи. Досегашната история на човечеството не ми е дала повод да очаквам, че в рамките на кое да е обозримо бъдеще изведнъж ще се прегърнем и ще станем космически разум, надмогнал всичките си предразсъдъци и проблеми. Нито пък виждам логична причина да смятам, че потенциално създаден от нас разум ще е лишен от тях априори. И не е като ти към момента да си дал каквато и да било обосновка, която да подкрепя собствените ти широки и свободни очаквания. За подобен тип Следващост ти препоръчвам Стар Трек...

А можем вместо това да понамалим абсолютизма и етикирането на чуждите позиции, щото не съвпадат с нашата, м?

[Йордан Янков]

защо ли все очаквам на форум на фантасти задължително всеки да има широки и свободни възгледи за нещата?

По принцип много хора стват почитатели на фантастиката като средство за бягство от реалността, тъй като нито я разбират, нито я харесват. Така че логично би било тук да намираш увеличена концентрация на мракобесни идеи за бъдещето от всякакъв вид. И моите включително.

[Алекс Белтов]

изумително бързо темата напусна първоначалната си насоченост за размисъл.
Както и да е.
Ето друг интересен аспект:

Бих искал да насоча вниманието ви към така наречения феномен "loop". Общо взето идеята е, че ИИ като креативна и самоусъвършенствена система, може да подобрява сама себе си. И това подобрение става в пъти по-бързо от самоусъвършенстването на чисто биологична такава в ХС (поради много фактори , пример физиологическите ограничения на човешкия мозък, затворен в една кухина).
Та мисълта ми е за този "loop" феномен. Трябва ли да се постави изкуствена граница за развитието на ИИ ( пример, краен брой връзки за логически операции), за да се избегне това?

[Roland]

защо ли все очаквам на форум на фантасти задължително всеки да има широки и свободни възгледи за нещата?

По принцип много хора стват почитатели на фантастиката като средство за бягство от реалността, тъй като нито я разбират, нито я харесват. Така че логично би било тук да намираш увеличена концентрация на мракобесни идеи за бъдещето от всякакъв вид. И моите включително.

Кое точно е бягство от реалността - това да си наясно със света около себе си и хората в него и да екстраполираш на тази база, или това да си затваряш очите за десет хилядолетия човешка история и да си мечтателничиш мечтателно?

В тоя ред на мисли, аз лично обожавам мракобесните идеи за бъдещето. Не вярвам в тях, твърде са опростени, но притчовостта в тях ми е много по-силна храна на въображението, отколкото утопии, които не почиват на нищо освен голото желание на автора Нещата Да Са По-Добри И Хората Да Еволюират.

Като стана дума за развитие на човека и т.н., горещо препоръчвам The Windup Girl на Paolo Bacigalupi. Току що спечели Небюла.

[Йордан Янков]

Кое точно е бягство от реалността - това да си наясно със света около себе си и хората в него и да екстраполираш на тази база, или това да си затваряш очите за десет хилядолетия човешка история и да си мечтателничиш мечтателно?

Силно се съмнявам че си наясно с каквото и да е било около теб и човешката история. Теориите за вродената "лошотия" на човека са тъкмо демонстрация на социално невежество и не издържат и на най-беглия критичен анализ. Да не говорим, че това което ти се занимаваш в момента - общуване с някой друг дето е на майната си по начин, който не е вроден в безценното ти тяло, е било нещо повече от мечтателно мечтаене дори за собствените ти родители на твоята възраст. По някаква странна логика ти и други хора решавате, че човечеството няма да мръдне и на йота повече - вие сте венеца на природата и оттук нататък всичко ще бъде едно безкрайно предъвкване на собственото ви ограничено мислене за света. Странно ако питаш мен ...

Ще се заинтересувам от тази книжка, която ми препоръча.

[Трип]

Силно се съмнявам че си наясно с каквото и да е било около теб и човешката история.

Дребнаво. Отговор на нещо, непрочетено внимателно.

Теориите за вродената "лошотия" на човека са тъкмо демонстрация на социално невежество и не издържат и на най-беглия критичен анализ.

Сламено човече.

Да не говорим, че това което ти се занимаваш в момента - общуване с някой друг дето е на майната си по начин, който не е вроден в безценното ти тяло, е било нещо повече от мечтателно мечтаене дори за собствените ти родители на твоята възраст. По някаква странна логика ти и други хора решавате, че човечеството няма да мръдне и на йота повече - вие сте венеца на природата и оттук нататък всичко ще бъде едно безкрайно предъвкване на собственото ви ограничено мислене за света. Странно ако питаш мен ...

Дребнавост + Сламено човече.

Не че Роланд не бива да си мери приказките, ама да баш ти, пораснал и културен човек, да му се връзваш като в teenproblem.net ми е безкрайно смущаващо.

[Roland]

Силно се съмнявам че си наясно с каквото и да е било около теб и човешката история. Теориите за вродената "лошотия" на човека са тъкмо демонстрация на социално невежество и не издържат и на най-беглия критичен анализ. Да не говорим, че това което ти се занимаваш в момента - общуване с някой друг дето е на майната си по начин, който не е вроден в безценното ти тяло, е било нещо повече от мечтателно мечтаене дори за собствените ти родители на твоята възраст. По някаква странна логика ти и други хора решавате, че човечеството няма да мръдне и на йота повече - вие сте венеца на природата и оттук нататък всичко ще бъде едно безкрайно предъвкване на собственото ви ограничено мислене за света. Странно ако питаш мен ...

Изключителна излагация е когато напишеш нещо толкова високопарно без да си схванал толкова прост пост като моя. Това аз с какво съм наясно е твое право да се съмняваш колкото си искаш, но за съжаление освен дребнавост и излишно самочувствие, не демонстрираш нищо друго с подобно съждение.

Концепциите за "добро" и "лошо" са човешки изобретения и съответно тотално мъгляви и двусмислени. Аз теории за вродена "лошотия" не изповядвам. Човекът е това, което е. Ако ти е по-лесно да елементаризираш с понятия като "добър" и "лош" - be my guest. Но не ми ги приписвай тия етикети на мен.

Нататък - приказките ти за венеца на природата ги игнорирам изцяло, понеже се базират на погрешна основа. Приказваш ми за технологично развитие. Защо? Кой оспорва научния ни и технически капацитет за прогрес? Той очевидно е безкраен. През ум не ми е минавало да твърдя, че няма да успеем да създадем ИИ. Единственото, което коментирам, и единственото интересно нещо в цялата тема всъщност (ако човек е надраснал възрастта, в която със сериозен тон и псевдо-научни термини обсъжда произволно избрана сред сто трилиона сай-фай идейки), е това НИЕ, ХОРАТА, дали изведнъж ще еволюираме ЕТИЧЕСКИ, за да дадем на "детето" си пълна свобода, без да знаем какво то ще направи с нея. И аз казвам, че не, няма. ТУК историята ме подкрепя изцяло. Може да ви е много не-фантастично и бягащо-от-реалността, но винаги всичко при хората се е свеждало до власт над другия. Нека са животински инстинкти, вродена "лошотия" или каквото и да е. Физическа и психологическа власт. ВСЯКА крачка напред, която сме правили (и то е малко смешно да говоря в множествено число при положение, че повечето от тия промени са се случили само сред привилигирования милиард, дето сме няма и 1/5 от целокупното човечество), е била в общия случай в отговор на някакъв катаклизъм, с цел той да не се повтори.

Ники смята, че информационните технологии ще доведат до сингулярност, която ще ни превърне в нещо ново и различно? Ок, негово право. Обаче това с нищо не е по-вероятна теза от тази, че информационните технологии ще доведат до нови начини хората да да злоупотребяват едни с други и да се контролират. (Впрочем, и двете идеи са разкошно застъпени в аниме-сериала Ghost in the Shell: Stand Alone Complex. Препоръчвам горещо.) И бидейки с нищо по-вероятна (а лично според мен и по-МАЛКО вероятна всъщност), не съм ок с това да ми се лепят етикети, понеже не изповядвам Наско Славовски идеологии за Следващото и за По-Добрия Човек Щото Така. В тях няма нищо лошо и е възможно да са напълно реални. Но докато някой не може да излезе с факти или поне недвусмислени тенденции, хубаво е агресията към инакомислещите да понамалее, щото е неприятен синдром и демонстрира всичко друго, но не и "широко и свободно" мислене -_-

[Дон Реба]

Ето друг интересен аспект:

Бих искал да насоча вниманието ви към така наречения феномен "loop". Общо взето идеята е, че ИИ като креативна и самоусъвършенствена система, може да подобрява сама себе си. И това подобрение става в пъти по-бързо от самоусъвършенстването на чисто биологична такава в ХС (поради много фактори , пример физиологическите ограничения на човешкия мозък, затворен в една кухина).
Та мисълта ми е за този "loop" феномен. Трябва ли да се постави изкуствена граница за развитието на ИИ ( пример, краен брой връзки за логически операции), за да се избегне това?

не разбира се, пък и това техническо средство няма да сработи. но така или иначе loopът е най-сладкото на цялата далавера, черешката на тортата, в ниаккъв случай няма да се откажа от него, ако аз ги решавах тия неща

[Йордан Янков]

Човекът е това, което е.

И какво е човекът?