Начало форум Наука и прогностика

Наука и прогностика

ЕИ - ИИ - социални отношения

Място за обсъждане на теми, свързани с наука, философия, прогностика, евристика

ЕИ - ИИ - социални отношения

Мнениеот Алекс Белтов » Нед Май 16, 2010 11:21 am

За любителите на лозунга "Свобода, равенство, братство" между ЕИ и ИИ пускам следния топик.

Да приемем хипотезата, че с развитието на ИИ (под каквато и физическа форма) се допусне равнопоставеност между ЕИ и ИИ. Логично е, че ще възникне съперничество между двата в борба за надмощие. Това съперничество неминуемо ще доведе до враждебност между двата рода.
Как може да се избегне това?
Аватар
Алекс Белтов
 
Мнения: 140
Регистриран на: Пет Апр 16, 2010 4:54 pm
Местоположение: София, България

Re: ЕИ - ИИ - социални отношения

Мнениеот Roland » Нед Май 16, 2010 11:41 am

Като не се допусне равнопоставеност.

Защо всяка мисъл, свързана с ИИ, трябва да се пуска в отделна тема?
Аватар
Roland
 
Мнения: 435
Регистриран на: Сря Мар 03, 2010 12:45 am

Re: ЕИ - ИИ - социални отношения

Мнениеот ogonommo » Нед Май 16, 2010 2:01 pm

Не мисля, че е логично да се стигне до борба за надмощие. ИИ ще превъзхождат отделния човешки индивид, нямаме причина да вярваме, че ще наследят и собствените ни недостатъци. Враждебността е изцяло от страна на хората. Враждебност, която проявяваме вътревидово по всякакви поводи, по всякакви начини. Това, че не сме готови за появата на ИИ не означава, че ИИ няма да бъдат готови за нас ;) Т.е., ако можем да избегнем собствената си ксенофобия (същата, която практикуваме вътревидово) няма да имаме никакви проблеми с ИИ.

Съгласен съм с Roland, че не трябва толкова много теми за ИИ да бъдат създавани във форума. Затова, Алекс, предлагам да си спретнем нещо междублогово - теми, дискусии, препратки. Ако си навит драсни едно ЛС.
...
Аватар
ogonommo
 
Мнения: 240
Регистриран на: Нед Май 02, 2010 5:18 pm
Местоположение: Пловдив

Re: ЕИ - ИИ - социални отношения

Мнениеот Шаркан » Пон Май 17, 2010 2:27 am

колкото и аматьорски анализ да правим, нека си даваме сметка за най-малко три неща:

1) хората няма да остават на същото (сегашно) равнище, което ще рече, че поводите за "расов конфликт" намаляват. Остават валидни междуличностните и междугруповите конфликти, при което няма значение произхода на дадена личност.
Говорейки за ИИ, говорим всъщност за определен тип устройства, градивни блокове.
Убеден съм, че такива блокове ще са съвместими с човешкия мозък. Т.е. става дума за киборгизация, при това доста фина, на клетъчно ниво (нищо общо с грубото "машинно" разбиране на киборгизацията).

2) появата на ИИ ни пренася в съвсем друг тип обществени отношения.
(защото един ИИ може да замени цял институт учени)
Има различни варианти как ще изглеждат подобни отношения, но категорично може да се каже, че ще представляват бледи аналози на това, което е било в човешката история

3) дори появата на ИИ да стане много внезапно, така че обществените нагласи да нямат време да се променят, дори ИИ да са изградени от компоненти, които по никакъв начин не могат да бъдат полезни за ъпгрейдване на човешкия мозък и тяло (което е малковероятно), лично на мен ми е много чудно, защо винаги се предполага франкенщайнов бунт на ИИ, а не се допуска бунт с друга насоченост - ПРОМЕТЕЕВА. Защо не се допусне, че ИИ ще застанат на едната от страните в прастария междучовешки конфликт?

та, накратко:
1. не е задължително ЕИ да изостава от ИИ
2. съществуването на ИИ значи нова епоха
3. ИИ може да не е само франкенщайново чудовище, но и Прометей

А по въпроса за "равноправието" - не може да има друго решение, освен равноправие. Иначе хората първи ще започнат конфликта, още преди да го има. И съответно сами ще си произведат противници по презумпция.
По-губеща позиция от това няма накъде повече.

и последно:
наистина, защо толкова много теми за едно и също нещо?
Макар че от друга страна - защо не?
Би било полезно обаче те да се свържат с линкове, което, струва ми се, би трябвало да е ангажимент на инициатора им.
Шаркан
 
Мнения: 1410
Регистриран на: Чет Апр 29, 2010 9:36 am
Местоположение: ... ... ...

Re: ЕИ - ИИ - социални отношения

Мнениеот Дон Реба » Пон Май 17, 2010 8:59 am

алекс, очевидно е че идеята за ИИ те е обсебила :wtf: :wtf:
но все пак, да си кажа мнението. няма смисъл да правим ИИ, ако то си има "собствени цели", такива безконтролни единици си имаме предостатъчно. ясно е че ИИ ще има такива мотиви, каквито му заложим, ако го направим да обича да яде лайна, ще яде лайна, ако го направим да обича да убива хора, ще убива хора. и тук е момента да изоставим второ лице множествено число, така любимо на патетично проповядващите интелектуалци и да минем по същество. значи, който и пръв да измисли концепцията (бях писал технология, но реших че е твърде принизяващо, все едно нов вид тъчскрийни), ако я огласи свободно става свинщина. това не е като атомната бомба, дето дори да знаеш как става, без огромни заводи и милиони човекочасове труд не става, това е нещо за което е достатъчен само компютър, нататъка има грижата първия протитип. с една дума всеки психопат ще може да си го направи. така че със сигурност ще има и такива с не особено благородни мотиви, и което е далеч по-опасно ще има такива с твърде благородни мотиви, и при всички случаи без леене на кръвчица няма да се мине. но касапницата в никакъв случай не я виждам ИИ срещу ЕИ, освен ако първооткривателя не се окаже някой мерзък мизантроп със сплъстена брада и черно под ноктите, живеещ в олющена съборетина без вода, смърдящ на пикоч и неистово мразещ целия несправедлив свят :) но някак тоя вариант ме съмнява, ако е за нещо в областта на физиката разбирам, но за да направиш ИИ трябва да познаваш добре ЕИ, което не се вписва в профила :) така че като цяло не вярвам да се стигне до конфликт ИИ срещу ЕИ :)
Дон Реба
 
Мнения: 33
Регистриран на: Сря Мар 17, 2010 12:40 pm

Re: ЕИ - ИИ - социални отношения

Мнениеот Алекс Белтов » Пон Май 17, 2010 3:01 pm

Един интересен казус. Онзи ден, докато се шляех из сайта на "Сингуларен институт за ИИ", извинявам се за лошия превод, но си е така. Та докато се шляех по джапанки там, попаднах на един линк ( някакво wiki), който ми представи следната главоблъсканица:

- Ако искаме от ИИ да бъде креативен, как можем да знаем Той какво ще направи? Ако не знаем Той какво ще направи, как да сме сигурни, че ще е приятелски настроен?


Някакви идеи?
Аватар
Алекс Белтов
 
Мнения: 140
Регистриран на: Пет Апр 16, 2010 4:54 pm
Местоположение: София, България

Re: ЕИ - ИИ - социални отношения

Мнениеот Roland » Пон Май 17, 2010 4:02 pm

Не, че нещо, но аз не виждам как ИИ, създаден от учени, чието поколение е отраснало с Терминатор и Матрицата, ще съществува без МИНИМУМ трите закона на Азимов под някаква форма.
Аватар
Roland
 
Мнения: 435
Регистриран на: Сря Мар 03, 2010 12:45 am

Re: ЕИ - ИИ - социални отношения

Мнениеот Дон Реба » Пон Май 17, 2010 4:38 pm

Roland написа:Не, че нещо, но аз не виждам как ИИ, създаден от учени, чието поколение е отраснало с Терминатор и Матрицата, ще съществува без МИНИМУМ трите закона на Азимов под някаква форма.

самоуспокоения :)
първо, учените да си го кажем правичката са хора задръстени и лесно се управляват. повечето дето са градили атомни бомби са изтъкнати пацифисти, но за хората със социални умения (каквито са политиците) е детска игра да накарат учения да прави всичко каквото решат.
второ, не всички учени са пацифисти, особено днес. :)
Дон Реба
 
Мнения: 33
Регистриран на: Сря Мар 17, 2010 12:40 pm

Re: ЕИ - ИИ - социални отношения

Мнениеот Шаркан » Пон Май 17, 2010 5:31 pm

Roland написа:учени, чието поколение е отраснало с Терминатор и Матрицата
шегуваш ли се? Ученият по определение е човек, който е надмогнал определени предразсъдъци на своето "поколение".
Да не говорим пък, че "поколение" е произволно групирана общност, която няма кой знае колко общи неща, освен ЕГН и някои спомени за събития и явления. Никой не е задължен да се държи "като поколението си".

Три или трийсет и три Закона = ИО, а не ИИ
ИО = изкуствен олигофрен
Защо? Защото едва се заеме с някоя практическа задача, едва започне да борави с неабстрактни данни, мисловният процес на ИИ ще бъден принуден да слаломира покрай императивите и в един момент или ще блокира, или трайно ще придобие "девиантното поведение" - тъкмо вследствие на тези Закони, които уж целят да предотвратят ДП, а всъщност го предизвикват.
Шаркан
 
Мнения: 1410
Регистриран на: Чет Апр 29, 2010 9:36 am
Местоположение: ... ... ...

Re: ЕИ - ИИ - социални отношения

Мнениеот Roland » Пон Май 17, 2010 11:57 pm

Ами значи просто ще си го сънуваме това ИИ. Или вие ще си го сънувате, аз не съм примрял за него. Ако някой не го направи тайно в гаража си, просто няма да бъде допуснато форма на живот без ограничения да бъде пусната в мрежата (понеже тя няма къде другаде да съществува). Така или иначе много преди това ще сме се пренасочили към биопънк, та аз съм спокоен. Свръхчовеците ще ни изтребят преди да измислим машината, която да ни изтреби :wtf:
Аватар
Roland
 
Мнения: 435
Регистриран на: Сря Мар 03, 2010 12:45 am

Re: ЕИ - ИИ - социални отношения

Мнениеот Шаркан » Вто Май 18, 2010 2:10 am

Roland написа:Ами значи просто ще си го сънуваме това ИИ
риторичен въпрос: защо ли все очаквам на форум на фантасти задължително всеки да има широки и свободни възгледи за нещата?
Голям наивник си останах.
Шаркан
 
Мнения: 1410
Регистриран на: Чет Апр 29, 2010 9:36 am
Местоположение: ... ... ...

Re: ЕИ - ИИ - социални отношения

Мнениеот Roland » Вто Май 18, 2010 7:53 am

Ако под "щироки и свободни" разбираш "наивно идеалистично-утопични", да, нямам широки и свободни възгледи. Досегашната история на човечеството не ми е дала повод да очаквам, че в рамките на кое да е обозримо бъдеще изведнъж ще се прегърнем и ще станем космически разум, надмогнал всичките си предразсъдъци и проблеми. Нито пък виждам логична причина да смятам, че потенциално създаден от нас разум ще е лишен от тях априори. И не е като ти към момента да си дал каквато и да било обосновка, която да подкрепя собствените ти широки и свободни очаквания. За подобен тип Следващост ти препоръчвам Стар Трек...

А можем вместо това да понамалим абсолютизма и етикирането на чуждите позиции, щото не съвпадат с нашата, м?
Аватар
Roland
 
Мнения: 435
Регистриран на: Сря Мар 03, 2010 12:45 am

Re: ЕИ - ИИ - социални отношения

Мнениеот Йордан Янков » Вто Май 18, 2010 8:01 am

Шаркан написа: защо ли все очаквам на форум на фантасти задължително всеки да има широки и свободни възгледи за нещата?


По принцип много хора стват почитатели на фантастиката като средство за бягство от реалността, тъй като нито я разбират, нито я харесват. Така че логично би било тук да намираш увеличена концентрация на мракобесни идеи за бъдещето от всякакъв вид. И моите включително. :wink:
Метаморфи от всички Вселени - обединявайте се!
Аватар
Йордан Янков
 
Мнения: 1320
Регистриран на: Нед Яну 05, 2003 12:51 pm

Re: ЕИ - ИИ - социални отношения

Мнениеот Алекс Белтов » Вто Май 18, 2010 9:33 am

изумително бързо темата напусна първоначалната си насоченост за размисъл.
Както и да е.
Ето друг интересен аспект:

Бих искал да насоча вниманието ви към така наречения феномен "loop". Общо взето идеята е, че ИИ като креативна и самоусъвършенствена система, може да подобрява сама себе си. И това подобрение става в пъти по-бързо от самоусъвършенстването на чисто биологична такава в ХС (поради много фактори , пример физиологическите ограничения на човешкия мозък, затворен в една кухина).
Та мисълта ми е за този "loop" феномен. Трябва ли да се постави изкуствена граница за развитието на ИИ ( пример, краен брой връзки за логически операции), за да се избегне това?
Аватар
Алекс Белтов
 
Мнения: 140
Регистриран на: Пет Апр 16, 2010 4:54 pm
Местоположение: София, България

Re: ЕИ - ИИ - социални отношения

Мнениеот Roland » Вто Май 18, 2010 10:33 am

exPesho написа:
Шаркан написа: защо ли все очаквам на форум на фантасти задължително всеки да има широки и свободни възгледи за нещата?


По принцип много хора стват почитатели на фантастиката като средство за бягство от реалността, тъй като нито я разбират, нито я харесват. Така че логично би било тук да намираш увеличена концентрация на мракобесни идеи за бъдещето от всякакъв вид. И моите включително. :wink:


Кое точно е бягство от реалността - това да си наясно със света около себе си и хората в него и да екстраполираш на тази база, или това да си затваряш очите за десет хилядолетия човешка история и да си мечтателничиш мечтателно?

В тоя ред на мисли, аз лично обожавам мракобесните идеи за бъдещето. Не вярвам в тях, твърде са опростени, но притчовостта в тях ми е много по-силна храна на въображението, отколкото утопии, които не почиват на нищо освен голото желание на автора Нещата Да Са По-Добри И Хората Да Еволюират.

Като стана дума за развитие на човека и т.н., горещо препоръчвам The Windup Girl на Paolo Bacigalupi. Току що спечели Небюла.
Аватар
Roland
 
Мнения: 435
Регистриран на: Сря Мар 03, 2010 12:45 am

Re: ЕИ - ИИ - социални отношения

Мнениеот Йордан Янков » Вто Май 18, 2010 10:58 am

Roland написа:Кое точно е бягство от реалността - това да си наясно със света около себе си и хората в него и да екстраполираш на тази база, или това да си затваряш очите за десет хилядолетия човешка история и да си мечтателничиш мечтателно?


Силно се съмнявам че си наясно с каквото и да е било около теб и човешката история. Теориите за вродената "лошотия" на човека са тъкмо демонстрация на социално невежество и не издържат и на най-беглия критичен анализ. Да не говорим, че това което ти се занимаваш в момента - общуване с някой друг дето е на майната си по начин, който не е вроден в безценното ти тяло, е било нещо повече от мечтателно мечтаене дори за собствените ти родители на твоята възраст. По някаква странна логика ти и други хора решавате, че човечеството няма да мръдне и на йота повече - вие сте венеца на природата и оттук нататък всичко ще бъде едно безкрайно предъвкване на собственото ви ограничено мислене за света. Странно ако питаш мен ...

Ще се заинтересувам от тази книжка, която ми препоръча.
Метаморфи от всички Вселени - обединявайте се!
Аватар
Йордан Янков
 
Мнения: 1320
Регистриран на: Нед Яну 05, 2003 12:51 pm

Re: ЕИ - ИИ - социални отношения

Мнениеот Трип » Вто Май 18, 2010 11:13 am

Силно се съмнявам че си наясно с каквото и да е било около теб и човешката история.


Дребнаво. Отговор на нещо, непрочетено внимателно.

Теориите за вродената "лошотия" на човека са тъкмо демонстрация на социално невежество и не издържат и на най-беглия критичен анализ.


Сламено човече.

Да не говорим, че това което ти се занимаваш в момента - общуване с някой друг дето е на майната си по начин, който не е вроден в безценното ти тяло, е било нещо повече от мечтателно мечтаене дори за собствените ти родители на твоята възраст. По някаква странна логика ти и други хора решавате, че човечеството няма да мръдне и на йота повече - вие сте венеца на природата и оттук нататък всичко ще бъде едно безкрайно предъвкване на собственото ви ограничено мислене за света. Странно ако питаш мен ...


Дребнавост + Сламено човече.

Не че Роланд не бива да си мери приказките, ама да баш ти, пораснал и културен човек, да му се връзваш като в teenproblem.net ми е безкрайно смущаващо.
Трип
 

Re: ЕИ - ИИ - социални отношения

Мнениеот Roland » Вто Май 18, 2010 11:39 am

exPesho написа:Силно се съмнявам че си наясно с каквото и да е било около теб и човешката история. Теориите за вродената "лошотия" на човека са тъкмо демонстрация на социално невежество и не издържат и на най-беглия критичен анализ. Да не говорим, че това което ти се занимаваш в момента - общуване с някой друг дето е на майната си по начин, който не е вроден в безценното ти тяло, е било нещо повече от мечтателно мечтаене дори за собствените ти родители на твоята възраст. По някаква странна логика ти и други хора решавате, че човечеството няма да мръдне и на йота повече - вие сте венеца на природата и оттук нататък всичко ще бъде едно безкрайно предъвкване на собственото ви ограничено мислене за света. Странно ако питаш мен ...


Изключителна излагация е когато напишеш нещо толкова високопарно без да си схванал толкова прост пост като моя. Това аз с какво съм наясно е твое право да се съмняваш колкото си искаш, но за съжаление освен дребнавост и излишно самочувствие, не демонстрираш нищо друго с подобно съждение.

Концепциите за "добро" и "лошо" са човешки изобретения и съответно тотално мъгляви и двусмислени. Аз теории за вродена "лошотия" не изповядвам. Човекът е това, което е. Ако ти е по-лесно да елементаризираш с понятия като "добър" и "лош" - be my guest. Но не ми ги приписвай тия етикети на мен.

Нататък - приказките ти за венеца на природата ги игнорирам изцяло, понеже се базират на погрешна основа. Приказваш ми за технологично развитие. Защо? Кой оспорва научния ни и технически капацитет за прогрес? Той очевидно е безкраен. През ум не ми е минавало да твърдя, че няма да успеем да създадем ИИ. Единственото, което коментирам, и единственото интересно нещо в цялата тема всъщност (ако човек е надраснал възрастта, в която със сериозен тон и псевдо-научни термини обсъжда произволно избрана сред сто трилиона сай-фай идейки), е това НИЕ, ХОРАТА, дали изведнъж ще еволюираме ЕТИЧЕСКИ, за да дадем на "детето" си пълна свобода, без да знаем какво то ще направи с нея. И аз казвам, че не, няма. ТУК историята ме подкрепя изцяло. Може да ви е много не-фантастично и бягащо-от-реалността, но винаги всичко при хората се е свеждало до власт над другия. Нека са животински инстинкти, вродена "лошотия" или каквото и да е. Физическа и психологическа власт. ВСЯКА крачка напред, която сме правили (и то е малко смешно да говоря в множествено число при положение, че повечето от тия промени са се случили само сред привилигирования милиард, дето сме няма и 1/5 от целокупното човечество), е била в общия случай в отговор на някакъв катаклизъм, с цел той да не се повтори.

Ники смята, че информационните технологии ще доведат до сингулярност, която ще ни превърне в нещо ново и различно? Ок, негово право. Обаче това с нищо не е по-вероятна теза от тази, че информационните технологии ще доведат до нови начини хората да да злоупотребяват едни с други и да се контролират. (Впрочем, и двете идеи са разкошно застъпени в аниме-сериала Ghost in the Shell: Stand Alone Complex. Препоръчвам горещо.) И бидейки с нищо по-вероятна (а лично според мен и по-МАЛКО вероятна всъщност), не съм ок с това да ми се лепят етикети, понеже не изповядвам Наско Славовски идеологии за Следващото и за По-Добрия Човек Щото Така. В тях няма нищо лошо и е възможно да са напълно реални. Но докато някой не може да излезе с факти или поне недвусмислени тенденции, хубаво е агресията към инакомислещите да понамалее, щото е неприятен синдром и демонстрира всичко друго, но не и "широко и свободно" мислене -_-
Аватар
Roland
 
Мнения: 435
Регистриран на: Сря Мар 03, 2010 12:45 am

Re: ЕИ - ИИ - социални отношения

Мнениеот Дон Реба » Вто Май 18, 2010 12:25 pm

Алекс Белтов написа:Ето друг интересен аспект:

Бих искал да насоча вниманието ви към така наречения феномен "loop". Общо взето идеята е, че ИИ като креативна и самоусъвършенствена система, може да подобрява сама себе си. И това подобрение става в пъти по-бързо от самоусъвършенстването на чисто биологична такава в ХС (поради много фактори , пример физиологическите ограничения на човешкия мозък, затворен в една кухина).
Та мисълта ми е за този "loop" феномен. Трябва ли да се постави изкуствена граница за развитието на ИИ ( пример, краен брой връзки за логически операции), за да се избегне това?

не разбира се, пък и това техническо средство няма да сработи. но така или иначе loopът е най-сладкото на цялата далавера, черешката на тортата, в ниаккъв случай няма да се откажа от него, ако аз ги решавах тия неща :)
Дон Реба
 
Мнения: 33
Регистриран на: Сря Мар 17, 2010 12:40 pm

Re: ЕИ - ИИ - социални отношения

Мнениеот Йордан Янков » Вто Май 18, 2010 1:12 pm

Roland написа:Човекът е това, което е.


И какво е човекът?
Метаморфи от всички Вселени - обединявайте се!
Аватар
Йордан Янков
 
Мнения: 1320
Регистриран на: Нед Яну 05, 2003 12:51 pm

Следваща

Назад към Наука и прогностика

Кой е на линия

Потребители разглеждащи този форум: 0 регистрирани и 3 госта

cron
Общо на линия са 3 потребители :: 0 регистрирани0 скрити и 3 гости (Информацията се обновява на всеки 5 минути)
На Пон Окт 21, 2019 7:31 am е имало общо 226 посетители наведнъж.

Потребители разглеждащи този форум: 0 регистрирани и 3 госта