ЕИ - ИИ - социални отношения

[Шаркан]

"Рождение сложности" на Александър Марков

дай читав линк, че попадам на дивашки формати с голям обем или на някакви екзе-файлове.

[Ивайло Иванов]

Никакви социални отношения не са възможни между ЕИ и ИИ. Да кажеш просто, че ЕИ създава ИИ е вярно, но много повърхностно. Защото онези, които финансират създаването на ИИ никога не биха платили за създаването на нещо, което после да не могат да контролират. А азимовите закони са доказателство само за това, че литературата е хуманна и благородна, но съм скептичен за реалното им приложение. И сега си има роботи, но никакви азимови закони не са им инсталирани. Да не говорим, че огромна част от тези роботи са именно военни и самото им предназначение е противоположно на азимовите закони.
Иначе всички пишещи можем да си фантазираме каквото си щем - но в реалността изкуственият интелект е замислен като допълнение на естествения. Никакво братство не е възможно с него, никакво равенство и в крайна сметка - никаква свобода за него не е възможна. Дори и някой ентусиаст да създаде нещо извън горната тенденция - то би било унищожено веднага. Хората винаги се страхуват от онова, което не познават.

[akonitin]

Най читав ми е хартиения носител... иначе съм срещал само отделни части от книгата из нета. Мога да ти я хвърля някой ден като съм по шопско.

"Рождение сложности" на Александър Марков

дай читав линк, че попадам на дивашки формати с голям обем или на някакви екзе-файлове.

[Шаркан]

Мога да ти я хвърля някой ден като съм по шопско.

ще съм ти много благодарен.

Никакви социални отношения не са възможни между ЕИ и ИИ

правилно, в сегашните социални условия - никакви.

[Ивайло Иванов]

Че защо само в сегашните? Погледни роботите в епизод І, ІІ и ІІІ на "Звездни войни" или даже роботите в "Несъществуващият" от Г. Малинов - някъде виждаш ли азимовите закони на роботиката?
Фантастиката трябва да има връзка с действителността.

[Goa]

Според мен всеки човек е ИИ за всеки друг човек (Иван Попов кратко и ясно го беше формулирал - "човек за човека е бот"), така че ако искате социални отношения между ЕИ и ИИ, наблюдавайте човешките отношения . Като говорим за контрол на ЕИ над ИИ, ми нали историята на човечеството е точно история на контрола на едни хора върху други. Т.е. продължавам да ви натяквам, че постановката на проблема е некоректна (добре де, според мен - отварям скоби от приличие).

[Шаркан]

Твърдиш, че "Звездни войни" е документалистика, репортажи от бъдещето?
опит за шега ли беше това, Ивайло?

Диляне, постановката би била некоректна, ако нямаше поначало предразсъдъци от страна на ЕИ към МИ, като нещо, създадено единствено, за да служи и нямащо право на собствено мнение... при това, поне формално, тук има сякаш по-"убедителни" доводи в полза на такава практика, отколкото расистките теории на едните ЕИ спрямо други ЕИ...
Е, от някаква гледна точка това наистина е неразличимо едно от друго, така че до голяма степен се съгласявам с теб.

МИ ще има. Тъкмо защото така ще се подхранва илюзията, че се държи контрол над тях.
Контролодържачите обаче ще си строшат зъбките, а и ще рискуват не само себе си, ако например тръгнат да създават МИ с военно предназначение.
Ако пък МИ бъде създаден като копроцесор към човешки мозък, това ще се превърне в привилегия за избрани.
И в такъв случай си оставаме в инферното, даже хлътваме по-дълбоко.

[Ивайло Иванов]

Твърдиш, че "Звездни войни" е документалистика, репортажи от бъдещето?
опит за шега ли беше това, Ивайло?

Не, Ники - не твърдя това. Както и никой тук не твърди, че "Аз, роботът" на Азимов е документалистика или репортажи от бъдещето. Нали така?
Но по отношение на техническите перспективи в роботиката "Звездни войни" е къде-къде по-близо до реалността, отколкото "Аз, роботът". Или не си съгласен?
Не разбирам защо търсиш конфронтация заради самата конфронтация?

П. П. В този форум досега не знам някой да е изповядвал расистки теории.

[Шаркан]

не, не съм съгласен

[Ивайло Иванов]

Ok - ето ти едно съвременно роботизирано устройство:


А ето и две евентуални тенденции в развитието на изкуствения интелект:



и




Да прощаваш, ама коя от тези тенденции има повече общи неща с нашето съвремие?

[Шаркан]

и?
говорим да нещо повече от автоматика.

[Ивайло Иванов]

говорим да нещо повече от автоматика.

Точно така - аз говоря за тенденция. Твърдя, че изкуственият интелект се развива в посока милитаризъм, запазвайки контрола над него (спомни си как изключиха бойните роботи в "Звездни войни").
Т. е. - тенденцията е ИИ на бъдещето да има основно военно предназначение и да е под прекия контрол на ЕИ. Никакви закони на роботиката, никакъв Азимов.

[Шаркан]

сигурен ли си?

доколкото знам, проектите за роеви оръжия бяха изоставени, понеже самоуправляващ се рой от бойни роботи бил теоретично неконтролируем.
Т.е. аналог на законите на роботиката ще има за военните (и полицейските) системи. Естествено в друга версия, при която вместо "човек", ще фигурира "оторизирано лице".
Само че това не са никакви ИИ (МИ).

пък и, май не си забелязал, но аз не смятам, че ограничителите ще са полезни, дори напротив.
Както и че ще получат голямо развитие тъкмо военните МИ (наистина разумни системи, не псевдоинтелигентни машини).
Защото едно наистина разумно същество с боен хардуер по-скоро ще предпочете да изтрепе войнолюбците, като по този начин окончателно реши проблема с мира на планетата.

[Шаркан]

друго: пряк високоэфективен контрол ще е възможен само при киборгизация.
И пак - щом имаш канал за управление, той винаги може да бъде прихванат.
Т.е., автономни МИ ще има.

обаче има нещо още по-съществено - на фона на всичките тези технологии, сегашни и утрешни, никакъв аналог на сегашните доминиращи социални модели няма да оцелее.

[Ивайло Иванов]

AI се създава за решаване на определени задачи. АІ са даже програмите Fritz: ако не вярваш - опитай се да победиш даже първата версия на Fritz на шахмат.
И секс-роботи има. Не кукли, а роботи. С които можело даже да се разговаря (според информацията, която намирам в мрежата - основно за футбол и бира). Т. е. - и това е някаква форма на АІ.
Но най-сложните АІ са за военни цели. MQ-1 Predator (на снимката горе) сам се стабилизира по време на полет, сам открива целите, сам определя степента им на важност и вероятността за поразяване и сам предлага на оператора да ги порази.
Но въпросът навсякъде е в контрола. Естественият интелект никога няма да си позволи лукса да изпусне контрола над изкуствения.

[Шаркан]

гледам, че имаш изключително ниски критерии да обявиш дадена система за МИ.
Всички денни, които даваш, са ми известни, мга даже да ти поразкажа интересни неща за израелските бойни "МИ", кво се вика от извора, от хора, които са в тамошната армия.
Но всички тия джаджи НЕ СА изкуствен машинен интелект, а още по-малко - разум.
(май уточнението кое имаме предвид "интелект" или "разум" наистина е било уместно)

шахът - ясно.
Но май досега няма система, която да е победила майстор на "го" (при която игра с всеки ход ситуацията се усложнява, докато в шаха е общо взето е обратното).
Няма и система, която да е създала читаво литературно произведение (засега). Няма ново откритие или принципно изобретение, направено от експертна система. Близо са, но още не. И то тъкмо заради маниакалния контрол.
Разум с намордник - не е разум.

ЕИ не може да остане същия, предвид развиващите се елементи на МИ.
А оттам няма да оцелеят и социалните модели на днешния ден.

[Йордан Янков]

Често се допуска, че "интелект" и "разум" са синоними, но тук вече някой посочи, че интелектът може да бъде интерпретиран като средство на разума, а не самият разум, който предполага наличието на цел. Всъщност интелектът се определят традиционно като способност да се правят заключения кое от заобикалящия ни свят е истинско и реално и така да се решават задачи, поставени пред разума. Но животните същото имат такива способности. Може да се каже дори, че всяка многоклетъчна система, която трябва да синхронизира своето съществуване с протичащите процеси в околната среда използва някаква своя способност да филтрира сигналите от тази околната среда и да управлява своите реакции на тези сигнали. Това, че при човекът тези способности са изключително сложни в своите проявления, не означава, че са принципно различни от тези на животните. Затова най-добре е да смятаме, че интелектът е способност една система да нагажда своите елементи и свойства спрямо външни на нея процеси. Оттам нататък можем да разсъждаваме кой интелект е естествен и кой изкуствен.

Всъщност проблемът за естествеността и изкуствеността на интелекта може да ни даде и разбиране за природата на разума. Естествеността предполага спонтанно възникване на дадена система, нейното формиране протича поради действието на някакви налични обективни предпоставки и процеси в самата среда или в някаква система, която предхожда възникващата по естествен път система. Изкуствената система винаги предполага някакъв абстрактен предхождащ образ, който съдържа основните свойства и елементи на бъдещета система. В този случай интелектът извършва манипулации, нагажда свойствата и елементите на бъдещата система, без те да са налични в околната среда, а само в неговите вътрешни информационни елементи и връзки. С други думи изкуствените системи се раждат като резултат от манипулациите на интелекта върху самия себе си. Това има корени в прочутото във философията "себеосъзнаване". То пък е възможно само ако предварително себеосъзнаващия се интелект има средствата да мисли абстрактно, тоест да извършва интелектуални операции върху абстракции. А това пък е възможно само ако имаме удвояване на реалните предмети и тяхното паралелно съществуване като абстрактни образи в интелекта. Това пък е възможно само когато самият интелект съществува в симбиоза с предметите извън него, тоест те стават неговото друго тяло. Точно това е и "машината" - небиологичното тяло на биологичния интелект. Заедно, машината и интелектът, правят разума - система, която променя околната среда спрямо предварително направени интелектуални операции върху абстракциите на обектите от същата околна среда.

Отделните хора, всеки един от нас е естествен интелект, тъй като сме резултат от стихийни, естествени биологични и социални процеси. В същото време всеки от нас е част от човешкия разум, който борави с абстракции благодарение на симбиозата между естествените интелекти и машините. От това следва, че изкуствения интелект може да има две значения/реализации.

Едната е когато ние проектираме свойства на машини, така че те да изпълняват интелектуални операции, но те да са със сложността на интелектуалните операции на всеки по-прост или по-сложен многоклетъчен организъм. Това вече го правим. Втората е когато ще сме способни да проектираме такива машини, които могат да изпълняват функциите на естествените интелекти в рамките на разума - на симбиозата между интелект и машина. С други думи, изкуственият интелект ще има способността да създава, да твори абстрактно и да се самоосъзнава, но неговата форма ще бъде каквато и да е машинна форма - която е проектирана и създадена съобразно средата, а не произволно възникнала. В този смисъл, ако един ден ние можем да контролираме свойствата на индивидуалните човешки интелекти, дори те да продължават да имат познатата биологична форма, то те ще бъдат машинни или с други думи изкуствени интелекти. Но пък самата биологична форма има доста тесен диапазон на възможно съществуване и е силно зависима от средата. Затова смятам, че тези видове изкуствени интелекти ще имат ограничено приложение във времето и пространството. Някаква преходна форма, някаква временна форма. Космическият разум не може да си позволи да съществува в биологична форма.

В този смисъл естественият интелект ще има ограничено бъдеще. Постепенно самият той ще еволюира към своите изкуствени форми, тъй като последните ще бъдат много по-разумни, тоест по-адекватни на самия разум. В момента човешкия разум има проблеми тъкмо с животинското си, тоест с естественото си начало. Това е вътрешно противоречие, което не може да се запази дълго. Самите естествени интелекти се стремят към повече разумност, тоест към повече адекватност на система в контекста на която функционират (т.нар. конформизъм). Най-вероятното естествените интелекти няма да разберат кога точно са се превърнали в изкуствени такива - нещо като невъзможността на жабата да установи че се е сварява.

[ogonommo]

Транс- и постхуманизъм. Всъщност това е една от най-вероятните хипотези, чуден е точният начин, по който ще се осъществи.

Интересно нещо е, че една система не може да предскаже с точност какви ще бъдат поведенческите модели на по-сложно устроена от нея система, което нагледно се вижда в повечето (остарели вече) футурустични творби с леки изключения. Технологията вече ни завладява отвсякъде; преди малко гледах едно много интересно клипче за бъдещето на компютърните игри като цяло:

http://fury.com/2010/02/jesse-shells-mi ... dice-2010/

Малко за технологичната сингулярност:

http://davidbrin.wordpress.com/2011/06/ ... ngularity/

Всъщност едно от възможните състояния на (евентуално) предстоящата сингулярност е хибридно: не е задължително да е започнало съществуването на изкуствен интелект или машинен разум, за да се достигне ниво, в което предсказването на близки бъдещи състояния на системата става трудно, дори невъзможно. Нарастването на сложността и свързаността на социалните мрежи и интернет-услуги, точките на допир между реално и виртуално сочат в тази посока.

[Йордан Янков]

Всъщност сега се усетих, че не съм прав за еволюцията на естествения разум в изкуствен разум и за жабата. Изкуственият разум като следващо състояние на човека трябва да бъде резултат от съзнателна творческа дейност на естествения човешки разум. Но това не може да бъде просто проектиране на интелекти, било то низши под формата на компютърни програми или висши под формата на роботи, а проектиране на разумни индивиди. Това ще рече индивиди, които са носители едновременно на естетическото, етическото и логическото начало на разума. Такива, които ще бъдат учени и педагози, когато творят изкуство, ще бъдат учени и артисти когато предават своите умения на другите, и ще бъдат артисти и педагози, когато откриват нови природни закони. Тъй като тези изкуствени интелекти, които ще бъдат обективната форма на изкуствения разум, ще бъдат проектирани съзнателно от естествения разум, то всякакви опити да им се вмени неморалност или социална уродливост са несъстоятелни. Разбира се, естествения разум може да създаде интелекти, които да причиняват вреда, но те ще са просто мимикрия на неразумните биологични интелекти - било то животински или човешки, такива каквито си ги имаме налични и в момента и в този смисъл нищо ново и различно няма да имаме от сегашната ситуация.

[Шаркан]

радвам се, че накрая одобрихте моята позиция