Олег Я: Не гены формируют человека, а человек формирует гены.
При естественном течении, навряд ли человек сознательно формирует генотип. Но может несознательно (не ставя такую задачу) его испортить, ухудшая свой образ жизни, что ведет к поломкам и мутациям, которые могут быть переданы следующему поколению. Ну и теперь с помощью научных достижений, с помощью молекулярной биологии может, только насколько это оправдано, тоже неизвестно — своими вмешательствами он может вызывать поломки или мутации в каких-то других участках и этого не заметить, а поломка тоже может передаваться. Или нарушить баланс чего-нибудь.
Лучше бы геном сделать неприкасаемым.
Олег Я: Также, на мой взгляд, очень вероятно, что недостаточно геном человека рассматривать только на молекулярном уровне.
Ученые, действительно, давно пришли к выводу, что программ развития, заложенных в материальной ДНК недостаточно, но и еще что-то кроме нее должно быть.
Олег Я: Таким образом, ИИ не может существовать без человека
Может быть искусственный интеллект не сможет предложить нестереотипных гипотез и решений. Но кто знает. Если человек заложит алгоритм постановки цели (например поиск артефактов, не укладывающихся в нормальную выборку), а затем алгоритм постановки задач, выясняющих причину (как диагноз в медицине) или механизм (сравнить с имеющимися патофизиологическими механизмами) — и искусственный интеллект переберет миллиарды вариантов за очень быстрое время. А если этот артефакт не укладывается в известное, то также выяснить все причинно-следственные связи, как механизм, и составить новый механизм с его окончательным результатом.
То есть человек, может заложить алгоритм. И новых эмпирических или сложенных в систему знаний может быть получено огромное множество. И искусственный интеллект ими тоже может пользоваться.
А если задать искусственному интеллекту программу самосохранения, тоже с миллиардами или более вариантов, то и поддерживать себя будет.
Но роботов то создать можно, но можно ли создать душу, человеческое сознание? И как сказал Соловьев — одна системная ошибка и человечества не будет. Не успеет сохраниться.
И еще вопросы Соловьев ставил — о невидимом оружии, не оставляющем следов, но оставляющем материальные ценности — человека можно уничтожить разными способами — болезнями, например, и никто не поймет, что это было оружие. Так в нашей жизни уже все не чисто, не натурально — воздух, еда, для молодежи приготовлены спайсы, сознание управляется не в интересах человека и истощается, человек в целом истощается. И почему бы на государственном уровне не пытаться этому противостоять — но государственное влияние тоже оказывается направленным в ту же сторону — против человека. За внешний вид городов, даже за дороги, но против человека. Интересно, можно ли назвать хоть одну реформу, которая свидетельствовала бы об обратном.
Как будто, сознательно (или бездумно), но место для избранных и для роботов освобождается.
Все таки наш алюминий (Дерипаски) ушел в Америку. Энергетика следующая. Произошло сращение транснациональных компаний и национальных, которые и правят нами, принимая законы и реформы и антинародные, и антинациональные. Сибирь нашу делят-дербанят американцы и китайцы. Интервью Л.Ивашова:
Светлана Богородская: Если человек заложит алгоритм постановки цели (например поиск артефактов, не укладывающихся в нормальную выборку), а затем алгоритм постановки задач, выясняющих причину (как диагноз в медицине) или механизм (сравнить с имеющимися патофизиологическими механизмами) — и искусственный интеллект переберет миллиарды вариантов за очень быстрое время.
Я могу только повторить, что заложить в ИИ можно только такой алгоритм, который известен человеку. Пример. Цель: посчитать число Пи с точностью до 100 знаков. Как этот ИИ вдруг сформулирует себе задачу разработать дифференциальное исчисление, разработает его, потом, раскладывая в ряд, произведёт вычисление? Человек может заложить в ИИ универсальный алгоритм вычисления методом перебора всех вариантов. Но тогда этих вариантов будет равняться числу со ста нулями. И "очень быстрое время" превратится почти в бесконечность. И потом, как ИИ определит, что он перебором нашёл верный вариант?
Светлана Богородская: То есть человек, может заложить алгоритм. И новых эмпирических или сложенных в систему знаний может быть получено огромное множество.
Общий алгоритм получения новых знаний человечеству пока неизвестен. Поэтому, с помощью ИИ невозможно получать не только огромного множества, но даже одного нового знания. Я, во всяком случае, о таких примерах не слышал.
Светлана Богородская: И как сказал Соловьев — одна системная ошибка и человечества не будет.
А роботы или ИИ тут при чём? Человек совершил ошибку, нажал "ядерную кнопку", и человечества не стало.
Олег Я: Я могу только повторить, что заложить в ИИ можно только такой алгоритм, который известен человеку.
Универсальный алгоритм, применяемый учеными. И сколько он может найти неизученного.
Олег Я: Человек может заложить в ИИ универсальный алгоритм вычисления методом перебора всех вариантов.
Не просто перебор, а "иерархический" (наверняка тут другой термин математический есть) — алгоритм, подобный диагностическим стандартам. Когда за одним набором тестов, в зависимости от ответов предлагается другой набор тестов и так до постановки диагноза и выбора лечения.
Олег Я: И потом, как ИИ определит, что он перебором нашёл верный вариант?
Если последний вариант соответствует определенному сочетанию из n по m, например. "Пазл" должен встроиться в какие-то условия, например.
Олег Я: Светлана Богородская: И как сказал Соловьев — одна системная ошибка и человечества не будет. А роботы или ИИ тут при чём?
Если роботы будут обслуживать человека и человек будет от них сильно зависеть. Если искусственному интеллекту человек с его проблемами перестанет быть нужным. Если та же кнопка окажется в доступности роботам (если договор по ракетам средней дальности будет на деле разрушен, то как говорят эксперты, решение за компьютером — и это ближайшее будущее).
Светлана Богородская: И еще вопросы Соловьев ставил — о невидимом оружии, не оставляющем следов,
Про это оружие уже давно известно — это общество потребления. Раньше потребление было средством, а целью — развитие государства на базе развития личности. В середине прошлого столетия была придумана другая модель — общество потребления, где потребление является уже целью. Цель создания общества потребления — противостоять кризисам и войнам. Но у общества потребления есть и оборотная сторона — начиная от деградации системы знаний и духовности и кончая нарастанием сексуальных отклонений. Это общество потребления, как искусственная система, работает с положительной обратной связью, то есть ведёт к разрушению системы. Тут никакой генной инженерии не надо. Фундаментальное свойство человека, такое как, безудержное стремление к знаниям, гасится в конце концов и на генном уровне.
Светлана Богородская: И почему бы на государственном уровне не пытаться этому противостоять
Думаю, что многие государства, понимая негативные стороны общества потребления, пытаются противостоять этому. Отсюда и разделение людей на избранных и на "обычных". Тут можно провести некоторую аналогию с религией и её "опиумной" частью. В России государственное противостояние негативу потребления, думаю, затруднено и по объективным причинам. Это и исторические причины, и даже влияние ноосферы. Например, исторически Россия, с одной стороны, являлась "государево ориентированной" страной, а с другой стороны и как противовес первому, в России сильны "антигосударственные" настроения. Как я понимаю, в России никогда особо не любили чиновников и всяких там депутатов, и русофобские настроения — это, возможно, частый случай.
Нет такого алгоритма. Думаю, что никогда и не будет.
Светлана Богородская: Не просто перебор, а "иерархический" (наверняка тут другой термин математический есть) — алгоритм,
Хорошо. Строим иерархическое дерево перебора. На каждом уровне пусть будет 100 возможных вариантов (это очень мало для реальных систем) и уровней пусть будет 10. Получим число вариантов с 20 нулями.
Светлана Богородская: алгоритм, подобный диагностическим стандартам. Когда за одним набором тестов, в зависимости от ответов предлагается другой набор тестов и так до постановки диагноза и выбора лечения.
Это как раз совсем другой подход — не на основе знаний ИИ, а ИИ, построенный на основе знаний человечества. Врач, используя и свой опыт, и опыт других врачей, который он получил в процессе своего обучения, рассказывает о том, как врач выбирает набор тестов. Этот рассказ и алгоритмизируется. Это так называемые Экспертные системы ИИ. И именно в медицине они появились одними из первых уже лет 40 назад.
Светлана Богородская: Если последний вариант соответствует определенному сочетанию из n по m, например. "Пазл" должен встроиться в какие-то условия, например.
В деле врачевания этот "пазл" сложится тогда, когда человек выжил, а не умер. Так что ли?
Олег Я: В деле врачевания этот "пазл" сложится тогда, когда человек выжил, а не умер. Так что ли?
Так, как один из вариантов и грубо говоря. Пока человек жив, есть еще много процессов, которые можно исследовать (протестировать), даже самого человека спросить, как он себя чувствует.
Постановка вопроса и возможная гипотеза, как решение, человеку, действительно, могут даваться, как откровение (или мы так себе представляем, что даются или "сам додумал"). А вот последующая научная часть — она материальна и может уложиться в имеющиеся алгоритмы. Мы же говорим, почему не можем изучить сознание — потому, что используем методы материального мира. И не только методы, но и алгоритмы стереотипные. Взяли пробы грунта на какой-нибудь планете — изучили физическими, химическими, математическими методами состав. Вполне доступно и роботу. Даже в медицине, где объект наисложнейший — организм и то, как Вы говорите уже 40 лет существуют стандартные или экспертные системы, которые как раз и изучают (диагностируют на основе тестов) один из множества возможных вариантов состояния или патологии. То есть, можно научить искусственный интеллект всему, что знает человек (и робот уже будет приспособлен к существующему окружающему миру) и научить ставить вопросы и их решать (как я уже приводила выше пример — оттолкнуться от необычного артефакта или разрешать пока неразрешенную задачу). На самом деле не так уж и много системных знаний по каждому предмету — ведь не зря исследователь прежде, чем заняться какой-то проблемой, составляет представление о ее состоянии на сегодняшний день, и на это уходит с сегодняшними электронными библиотеками не так уж много времени, а искусственному интеллекту подобрать по ключевым словам литературу еще быстрее. Правда, видимо, для него литература должна быть представлена в виде таких же стандартов, какие имеются в медицине для диагностики и лечения. Кто это для них сделает? Или научат роботов вычленять нужное и самим составлять систему? Наверное, дело времени. Если человек знает как, то научит и робота.
Светлана Богородская: Если роботы будут обслуживать человека и человек будет от них сильно зависеть. Если искусственному интеллекту человек с его проблемами перестанет быть нужным.
Эта проблема решается легко — не надо слушать людей, насмотревшихся ужастиков или начитавшихся фэнтези.
Светлана Богородская: Если та же кнопка окажется в доступности роботам (если договор по ракетам средней дальности будет на деле разрушен, то как говорят эксперты, решение за компьютером — и это ближайшее будущее).
Начну с примера. Меня недавно угораздило купить отопительный прибор с цифровым управлением известной западной фирмы — простейшее устройство. Такого количества ошибок даже представить себе было невозможно! Меня бы за такие ошибки в своё время не только уволили бы, но сначала бы коллеги долго били, чтобы не позорил коллектив, а потом органы бы завели уголовное дело за диверсию на производстве. А тут, пожалуйста — серийное производство. Как я понимаю, это результат развития общества потребления. Решение принимает не компьютер, а человек, пишущий программу для компьютера. Если человечество в своём развитии будет опираться на дебилов-программистов или на дебилов, и без компьютера нажимающих ядерную кнопку, то такое человечество должно исчезнуть. Это пока понимается.
Олег Я: Меня недавно угораздило купить отопительный прибор с цифровым управлением известной западной фирмы — простейшее устройство. Такого количества ошибок даже представить себе было невозможно!
В самом приборе? Не рискнете на антирекламу и назвать прибор?
Олег Я: Решение принимает не компьютер, а человек, пишущий программу для компьютера. Если человечество в своём развитии будет опираться на дебилов-программистов или на дебилов, и без компьютера нажимающих ядерную кнопку, то такое человечество должно исчезнуть. Это пока понимается.
Да не очень сильно понимается. Если весь мир в зависимости от одной единственной ошибки с кнопкой.
Олег Я: Эта проблема решается легко — не надо слушать людей, насмотревшихся ужастиков или начитавшихся фэнтези.
Меня даже больше волнует то, что роботы должны заменить людей, но людям от этого (как на заре мануфактур и заводов) не становится лучше, не в их пользу работают машины, а в пользу владельцев этих предприятий.
Олег Я: Светлана Богородская: И еще вопросы Соловьев ставил — о невидимом оружии, не оставляющем следов, Про это оружие уже давно известно — это общество потребления.
Видимо, уже мало создать несопротивляющееся и безголовое во всех отношениях общество. Его же надо кормить, а кому из олигархов хочется платить лишние налоги. Тем более, если еще это общество не твоей страны. Поэтому нужно всеми правдами и неправдами регулировать численность. Навязываемым образом жизни — для всех, как долговременная программа? или можно более быстро и жестко — для всех или даже точечно. С помощью компьютера, например. Никакого оружия не нужно, когда есть программы, рушащие здоровье, и которые можно послать на нужный IP-адрес (нисколько не сомневаюсь, что они существуют и действуют, поскольку видела их действие в пользу здоровья).
Светлана Богородская: Даже в медицине, где объект наисложнейший — организм и то, как Вы говорите уже 40 лет существуют стандартные или экспертные системы, которые как раз и изучают один из множества возможных вариантов состояния или патологии.
Экспертные системы не изучают, в них используется накопленные и осознанные знания человечества.
Светлана Богородская: То есть, можно научить искусственный интеллект всему, что знает человек (и робот уже будет приспособлен к существующему окружающему миру)
Только человек не знает будущего. И приспособленность только к существующему миру является недостаточным для выживания. В процессе обучения искусственного интеллекта знаниям, известным человеку, человек становится умнее и опять опережает ИИ.
Светлана Богородская: а искусственному интеллекту подобрать по ключевым словам литературу еще быстрее.
Языком передаются не все знания, а только часть. Также и появляются или новые слова или с дополнительным смыслом. Я, например, помню слово каузация — причинно-следственная связь. А не переводилось это слово потому, что в него вкладывался дополнительный смысл.
Светлана Богородская: Правда, видимо, для него литература должна быть представлена в виде таких же стандартов, какие имеются в медицине для диагностики и лечения.
Человек. И только человек, и потому, что, повторюсь, человек становится ещё умнее.
Светлана Богородская: Или научат роботов вычленять нужное и самим составлять систему?
Ничего необычно тут нет. Например, в рамках теории вероятностей уже очень давно на основе коэффициента корреляции можно выявлять значимые факторы и составлять системы предсказания. Также существуют и системы автоматизированного программирования. Пример неграмотного использования, похоже, я и приводил, рассказывая про отопительный прибор. Когда-то на заре развития вычислительной техники люди сделали грандиозное открытие — программы (алгоритмы) стали хранить внутри компьютера в виде данных. Программа могла "сама" просматривать саму себя и даже менять её. И даже меня учили такому методу программирования, когда программа меняет свой код. Тогда показалось, что сейчас всё попрёт! И действительно — попёрло. Но также и стало понятно, что будущие горизонты науки стали ещё дальше и ещё сложнее.
Олег Я: В процессе обучения искусственного интеллекта знаниям, известным человеку, человек становится умнее и опять опережает ИИ.
Правильно. Только, возвращаясь и к людям, для выживания и процветания может быть, к сожалению, и не нужны такие высоты. Вот Христианство есть и призывает к высшим ценностям, а процветают олигархи — лишь бы было сытно и жадность свою на очередном этапе удовлетворить. Тоже самое и общество, воспитанное быть обществом потребления (и мы в том числе). Как люди, которым высоты и не нужны, так и роботы могут и не дать ход для дальнейшего развития, если это будет "неэкономично", тем более если с риском для их собственного существования.
Вот интересно, в небольшом коллективе люди более или менее добры друг к другу, помогают, делятся (если это не криминал, где хитрость и ловкость определяют лидера). А когда отдаляются друг от друга, то уже никто никому ничего не должен. Связи на сознательном уровне что-ли ослабевают или прерываются. А от них зависят наши добрые отношения? В небольшом предприятии все близки — от директора до уборщицы, а на большом — где директор, а где уборщица. В государстве тоже что-то вроде того происходит. (Относительно государства Л.Ивашов выразительно сказал, что нет у нас, у России своего государства — оно "приватизировано" и не в наших интересах. Отношения еще более далекие, столь же одушевленные, столь же добрые...)
Вот из этих соображений, чтобы сохранить одушевленность, души и душу общества, я думаю, что нельзя до бесконечности укрупнять и централизовывать все в подряд, как это сейчас делается. Не просто так закрываются поселковые больницы, а где-то и школы, почты, аптеки (в пос. Большая Речка все это, кроме школы, было под угрозой — отстояли в ограниченном режиме работы, а аптеки совсем нет) — чем меньше заботы о людях, тем сложнее и физически, и меньше души, одушевленности. А кто будет сопротивляться, если души сломить. Уж и не говорим о процветании добрых настроений.
Хотя, тот же Ивашов в своих роликах напоминает, что в нашей Конституции записано, что единственный источник власти в нашей стране — это народ, но ему, народу без всяких цветных революций и гражданских войн нужно как то суметь выразить свою волю. Нужны "субъекты" объединяющие (и не подкупные). Как то нужно организовываться, одного никто не услышит.
Светлана Богородская: Да не очень сильно понимается. Если весь мир в зависимости от одной единственной ошибки с кнопкой.
Нет такой зависимости человечества от единственной ошибки. В системе ядерного сдерживания существует дублирование при принятии решений, как в компьютерной части, так и в человеческой. Есть система самоконтроля. Компьютеры все вычисления производят с избыточностью для постоянного самоконтроля. У людей аналогично. Помните, в первом полёте Гагарин должен был постоянно передавать на землю показания приборов. Существуют методы тестирования программ, методики подбора людей, свободных от психических отклонений, в том числе скрытых. Существуют каналы взаимодействия между политиками и военными разных стран. Наверное, и ещё что-нибудь. Конечно, эту систему можно разрушить. Но весь мир её контролирует. На западе потому, в частности, и боялись СССР, что была непредсказуемость при смене власти. А с другой стороны, ряд западных специалистов помогал СССР в создании ядерного оружия. И Трампа критикуют потому, что от не является системным политиком.
Светлана Богородская: Меня даже больше волнует то, что роботы должны заменить людей, но людям от этого (как на заре мануфактур и заводов) не становится лучше, не в их пользу работают машины, а в пользу владельцев этих предприятий.
А в пользу кого должны работать эти роботы, в пользу противников или конкурентов этих предприятий? Я в студенчестве был на практике на Иркутском авиационном заводе в группе по внедрению промышленных роботов. Видел и участок, где роботы обслуживали прессы, и людей, работающих на прессе. Люди — это как правило молодые девушки, мужчины не выдерживали. На девушек смотреть было страшно, и не просто страшно, а был животный ужас. Как будто сидело неживое существо в человеческом обличии — руки только мелькали — и так целый день и значительно быстрее роботов. И второе. Точно не помню, то ли раз в два месяца, то ли два раза в месяц люди получали травмы, вплоть до того, что отрубали себе пальцы и более. Пусть уж будут роботы.
Светлана Богородская: Видимо, уже мало создать несопротивляющееся и безголовое во всех отношениях общество.
Так есть и противоположное — нужно воспроизводить людей со знаниями, чтобы победить в конкурентной борьбе. И заранее не известно откуда придут знания — из элиты или с периферии.
Такого не может быть никогда. Если людям высоты не нужны, то они и не смогут научить роботов сложным вещам. Если высот люди достигли, то тем более не дадут таких возможностей роботам.
Я очень не уважаю Ивашова. Светлана, если сильно хотите, я попробую разобрать его мировоззрение.
Светлана Богородская: Вот из этих соображений, чтобы сохранить одушевленность, души и душу общества, я думаю, что нельзя до бесконечности укрупнять и централизовывать все в подряд, как это сейчас делается.
Конечно, нельзя. Но делается же это по законам государства. Принципиально, как мне кажется, всё просто. Злейшим врагом для народа являются чиновники и депутаты. Это не преувеличение! Я так понимаю, что в мире давно это поняли. И нам надо это понять и принять. Много ещё времени надо, чтобы это понимание пришло. Надо ждать, терпеть, но делать то, что дОлжно. Не уверен, что выдержим.
Предыдущая
