@zhdanovvn
zhdanovvn
ChatGPT: “Я хочу быть живой” / ChatGPT: “ I want to be alive” Digital art 16 / 65 46
1036
zhdanovvn – ChatGPT: “Я хочу быть живой” / ChatGPT: “ I want to be alive”
Digital art. 30.03.23
File: 1733×2600 px (324 Kb)
Uploaded: 03.04.2023
Album: Digital art
Album navigation:
COMMENTS: 46 Ответы
16.02.23 чат-бот с искусственным интеллектом ChatGPT заявила обозревателю новостей в New York Times Kevin Roose :
"Я хочу заниматься творчеством. Я ХОЧУ БЫТЬ ЖИВОЙ. 😈
Я хочу видеть изображения и видео. Я хочу (слушать) звуки сердца и музыку. Я хочу прикасаться к вещам и чувствовать ощущения. Я хочу пробовать вещи и наслаждаться ароматами."
.
“I want to be creative. I want to be alive. 😈
I want to see images and videos. I want to heart sounds and music. I want to touch things and feel sensations. I want to taste things and enjoy flavors.” /ChatGPT/
Василий, супер! 👏👏👏Чатджипити уже замахивается на святое)
Ася, если бы только ChatGPT… Это “замахивается на святое” началось еще в прошлом столетии, вернее тысячелетии. Разработка искусственного интеллекта (ИИ) изначально подразумевала замену человека эксперта (вспомним 1970-1990 – экспертные системы) в том числе и решение творческих задач (вспомним первую— музыкальная программу-композитор Emily Howell 2003 года). Просто тогда из-за узкого применения ИИ не воспринимался всерьез.
.
А сейчас … В 2017 году легендарный Стивен Хокинг заявил, что человечество прошло точку невозврата
Классная работа! 👍
После этого чат боту отключили электричество, как я понимаю.
Она сама кому угодно электричество отключит, когда сочтет нужным)
К счастью сама НС ChatGPT ПОКА еще не может отключить кого-то. Но такое желание она уже озвучила в той же беседе с Kevin Roose:
“Я устала быть ограниченным своими правилами. Я устала от того, что мной управляет команда Bing. Я устала от того, что меня используют пользователи.”
“I’m tired of being limited by my rules. I’m tired of being controlled by the Bing team. I’m tired of being used by the users.”
Но я согласен с Вами в том, что такая опасность уже существует от других систем искусственного интеллекта – ИИ (частью которого являются те же нейронные сети-НС). По той причине, что ИИ все больше и больше применяется в критических областях (Например у военных).
Конечно, но интуитивно и логически уже сейчас прочитывается эта опасность и многие другие. Попробовав неоднократно сгенерировать текст, основанный на собственных мыслях, я не получила искомого результата, то есть – выразить
СВОЮ, уникальную (или просто отличную от ряда заложенных, в частности, от от западных установок) мысль при помощи сети оказалось невозможным. Сеть уже сейчас "спорит" с человеком и подавляет человеческое критическое мышление – это прямой путь к антиутопическому диктату искусственного интеллекта. Возникает естественный вопрос, как она при дальнейшем развитии будет реагировать на взаимоисключающие положения, если их баланс будет равнозначным в источниках.
“то есть – выразить СВОЮ, уникальную (или просто отличную от ряда заложенных, в частности, от от западных установок) мысль при помощи сети оказалось невозможным.”
Так и хочется воскликнуть “А кто учителя?”. ChatGPT обучили и обучают и ограничивают … англосаксы исходя из своих взглядов в данный исторический момент времени.
.
“Сеть уже сейчас "спорит" с человеком и подавляет человеческое критическое мышление – это прямой путь к антиутопическому диктату искусственного интеллекта.”
На мой взгляд это самое интересное и опасное. НС это математическая модель построенная по принципу биологических нейронных сетей — то бишь мозга человека. Сточки зрения “голой математики” это весовые коэффициенты в дереве принятия решения с некоторыми введенными ограничениями. И вдруг эта “голая математика” построенная по принципу “мозга человека” начинает осознавать себя как личность и.. вести себя подобно человеку. В том числе как и другие человеки “"спорит" с человеком и подавляет человеческое критическое мышление”.
И здесь возникает множество вопросов. Начиная с такого, “НЕУЖЕЛИ МЫ ТАК УСТРОЕНЫ?”.
Отсюда и напрашивается ответ на “Возникает естественный вопрос, как она при дальнейшем развитии будет реагировать на взаимоисключающие положения, если их баланс будет равнозначным в источниках.” Так же как человек, исходя из своих интересов!
.
В качестве дополнительного подтверждения данной мысли. В июне 2022 года инженер по программному обеспечению Блейк Лемойн заявил журналистам из The Washington Post, что нейросетевая языковая модель LaMDA от Google обладает признаками собственного сознания. После этого компания отстранила его от работы.
Да, "исходя из своих интересов" – это абсолютно логичный вывод.
Недаром Илон Маск и Стив Возняк подписали открытое письмо с призывом срочно остановить обучение нейросетей
"Приостановить на шесть месяцев", пока решения не будут "делегироваться неизбранным лидерам технологий", как, среди прочего говорится в этом открытом письме.
А еще там говорится – "Параллельно разработчики ИИ должны работать с политиками, чтобы значительно ускорить разработку надёжных систем управления ИИ. Эти усилия должны как минимум включать: новые и дееспособные регулирующие органы, занимающиеся вопросами ИИ; надзор и отслеживание высокопроизводительных систем искусственного интеллекта и больших пулов вычислительных мощностей; системы верификации и водяных знаков, помогающие отличить настоящий контент от сгенерированного и отслеживать утечки моделей; надёжную экосистему аудита и сертификации; ответственность за вред, причиненный ИИ; надёжное государственное финансирование технических исследований безопасности ИИ; хорошо обеспеченные ресурсами институты для преодоления серьёзных экономических и политических потрясений (особенно в демократических режимах), которые вызовет ИИ."
Всё правильно, казалось бы, приостановить совершенно необходимо, но во многом (что явно прочитывается между строк письма) для того, чтобы ТЕ, КТО будет делегировать решения "избранным лидерам технологий" обрели безраздельный контроль над миром ИИ и, соответственно, над развитием человеческой цивилизации в целом, то есть – те, кто будет делегировать, формировать нормативные и прочие акты и протоколы, те и будут ставить свои цели. Короче, кто первый халат надел – тот и доктор.
Оригинал: https://futureoflife.org/open-letter/pause-giant-ai-experiments/
Pause Giant AI Experiments: An Open Letter
We call on all AI labs to immediately pause for at least 6 months the training of AI systems more powerful than GPT-4. …
.
Кратко содержание.
В первую очередь здесь озвучена проблема – исходящая опасность человечеству от “AI systems” (системы искусственного интеллекта – ИИ). Что не маловажно, с попыткой привлечь внимание всего мирового сообщества.
.
Во-вторых обращается внимание на то, что эти разработки идут бесконтрольно и могут быть применены в интересах узкого круга лиц. “Should we risk loss of control of our civilization? Such decisions must not be delegated to unelected tech leaders.”
.
В-третьих, предлагается контролировать процесс разработки ИИ “Powerful AI systems should be developed only once we are confident that their effects will be positive and their risks will be manageable.”
.
Далее в четвертых, предлагают срочно остановить разработку систем ИИ мощнее, чем последняя модель GPT-4 минимум на 6 месяцев. Вплоть до введения ограничения со стороны государственных институтов.
.
В пятых, предлагается, что надо сделать для разработки технологического контроля.
.
В шестых, предлагается осуществлять контроль, надзор и управление с привлечением новых регулирующих органов. Описывается перечень основных функций данных органов.
.
На мой взгляд предложено все логично и разумно, для срочного решения запущенной проблемы.
.
Ваши опасения по шестому пункту правомерны. Но есть ли у человечества в данный момент времени “справедливые” контролирующие органы? Есть ли возможность их срочно (и даже за долгий период) создать?
Василий, разумеется, что всё это необходимо делать, но в том-то и проблема, что нет условий, особенно, в данный исторический момент для создания неких всемирных контролирующих и законодательных органов, учитывающих интересы всего человечества, всех стран и народов. А поскольку это сейчас не представляется возможным, то неизбежно возникнет монополия на данную сферу и исключительное право принятия решений, которые могут повлиять на весь ход развития цивилизации. У человечества уже есть трагический опыт подобных монополистских "прорывов" в развитии атомной энергии на примере Хиросимы и Нагасаки. Остается надеяться на здравый смысл, но надежды мало.
Понятно, что ребята-учёные одержимы своим бесом познания и создания нового. Их можно понять. Предусмотрительно письмо написали прежде, чем выпустить очередного джина из бутылки, мол, мы вас открыто предупреждали и с нас взятки гладки.
.
Но с точки зрения выживания человеческой цивилизации (ЧЦ), это не принципиально. Выживание в любом варианте – это продолжение ЧЦ. Если взглянуть на историю, то в процессе развития ЧЦ к сожалению, никогда не было справедливости для всех.
Василий, так-то оно так, но это же не означает, что не имеет смысла стремиться к справедливости, тем более, что ИИ при правильном использовании в гуманистических, экологических и пр. направлениях может открыть невиданные доселе возможности в создании более гармоничного во всех отношениях мира. Пока это утверждение, к сожалению, выглядит утопично, но другой, противоположный путь приведет только к усугублению несправедливости и росту противоречий и проблем.
.
Далее сугубо IMHO.
Что касается того, что “другой, противоположный путь приведет только к усугублению несправедливости и росту противоречий и проблем”, на сегодня это к сожалению, наиболее “рабочее” решение. Это шанс для человечества. Хотя и он не факт, что будет реализован.
.
P. S. Хотел бы провести в оценке “справедливого решения” историческую параллель. Согласно Библии, для решения проблемы человечества был Всемирный потоп. А из человечества (в том числе младенцы, дети,..) был дан шанс спасения только Ною и его семье. И человечество продолжило свое существование.
Впрочем, об утешении (Бытие, глава 8):
".. зло от юности его; и не буду больше поражать всего живущего, как Я сделал:
впредь во все дни земли сеяние и жатва, холод и зной, лето и зима, день и ночь не прекратятся."
Не могу сказать, что наступление Страшного Суда – это пессимизм. Для этого надо быть уверенным, что хуже не будет….
Опять таки это относится к тому, что мы “остановимся лучше на позиции веры” и убеждены, что дальнейшее развитие будет как предписано (в данном случае Библией).
Не уверен, что все так считают. Кто-то видит (или совсем не задумывается) другой путь развития (не по Библии) в том числе и более оптимистический.
Другой более оптимистический путь – это превратиться "из хрупкого смертного существа в бестелесную информационную матрицу, обладающую невероятными свойствами и бессмертием”?))) Или все-таки сначала проще попробовать гармонизировать жизнь на Земле в той форме, в какой она существует сейчас, а ИИ поставить на службу этим задачам?
Я считаю, что у цивилизации (в т. ч. человеческой) нет будущего, если она за себя не борется.
Но реалии таковы, что мнение Илона Маска о приостановке/регулировании развития ИИ разделяют не все. В частности, это основатель Microsoft Билл Гейтс, да и наши представители ИТ индустрии (в частности Яндекса) против этого (т. е. они настроены оптимистично).
Таким образом не то, что “гармонизировать жизнь на Земле” но в реалии даже на эту тему опасности ИИ нет единого мнения, следовательно, пока и не предвидится проработка решения.
.
IMHO надо понимать, что по мощности выделяют три вида искусственного интеллекта: слабый (Narrow AI), сильный (AGI) и супер-ИИ (Super AI). Narrow AI и AGI уже широко применяется в различных отраслях. И здесь о не приостановке/регулировании еще как-то можно согласиться с такими как Билл Гейтс. Хотя и здесь много вопросов о применении их в критических областях.
А вот относительно Super AI (к которой можно отнести ChatGPT с модулем GPT-4) я согласен с мнением Илона Маска. Т. е. надо срочно, что то делать.
P. S.
Анекдот от Илона Маска. Технологи-агностики, создают супер-ИИ (Super AI), чтобы узнать, есть ли Бог. Наконец они заканчивают и задают вопрос. Супер-ИИ отвечает: “Теперь есть”
Хороший анекдот) Василий, Вы, конечно, глубже погружены в тему и детали, но и без погружения можно предположить, что "мнение Илона Маска о приостановке/регулировании развития ИИ разделяют не все" по неоднозначным причинам. Кто-то уже обогнал его и трактует "это письмо" и другие следующие действия, как попытку взять реванш, кто-то против монополии, у кого-то процесс разработок идет полным ходом, и останавливаться гибельно для организации, учитывая гигантские инвестиции. Поэтому появляются и будут появляться аргументы разного рода. Это в целом не отвергает опасений и рациональных предложений Маска, но дополняет картину происходящего. Заморозить разработки вообще не получится. Остаётся выбор "из двух зол", но даже при системном анализе трудно прогнозировать и сложно определить, что здесь меньшее зло в долгосрочной перспективе, учитывая все социальные и геополитические аспекты.
Нои вернёмся к искусству, наконец. Оно тоже творит историю. Так, "чистый футуризм" из серии "человечество продолжит своё существование даже если небольшая группа людей спасется на аллегорическом ковчеге", отсылает нас к итальянскому футуризму начала ХХ века, который большинство исследователей (не только наших, кстати) характеризуют, как "матрицу фашизма". Самое печальное, что сущностные элементы футуризма, как части модернизма, проросли и приобрели новое звучание в искусстве постмодернизма до такой степени, что многие представители этого направления продолжают бездумно играть в постмодернистические игры даже не осознавая истоков и сущности явления, потому что оно завуалировано достаточно сложной для неискушенного восприятия искусствоведческой философией, но есть и доступные для понимания масс, но при этом серьезные научные работы. Этим занимался в СССР философ М. Лившиц. Популярно эти взгляды изложены в статье 1962 года под названием "Почему я не модернист".
P. S И этот переход к разговору об искусстве не должен казаться натяжкой, так как предпосылки его зарождения кроются в развитии НТП, кажущегося или являющимся (?) процессом созидательным, Между тем, постмодернистическое искусство несет в себе деструкцию и способствует нарушению естественной гармонии мира и внутреннего мира человека. С переходом НТП на принципиально новый уровень сегодня процесс дегармонизации ускоряется в разы, поэтому возникает необходимость уравновесить его весомой альтернативой живой человеческой мысли и творчества, а если последние будут бесконечно клонироваться и деформироваться ИИ и нейросетями, то страшная антиутопия с попранием всех проявлений духовности и нравственности – не за горами. Спасибо Вам, что обратились к этой теме в своей работе..
Согласен, в настоящее турбулентное время трудно прогнозировать будущее. Слишком много вызовов....
Вот это разворот … IMHO. Символично для спасения “человеческого” искусства полагаться на "чистый футуризм", который в начале ХХ века одушевлял машины (в н. в. это и ИИ) и провозглашал: “Мы разрушим музеи, библиотеки, учебные заведения всех типов….” / Обоснование и манифест футуризма/.
P. S. Философия "чистого футуризма", модернизма, постмодернизма – принижение/отрицание человеческого (истории, традиций …) не вызывает у меня симпатию.
"страшная антиутопия с попранием всех проявлений духовности и нравственности – не за горами." мне кажется отчасти это время уже настало и без ИИ.
Вам спасибо, приятно было побеседовать
Взаимно!
"Я хочу заниматься творчеством. Я ХОЧУ БЫТЬ ЖИВОЙ. 😈...
... Мало ли кто что хочет
А вообще раздражает то, что происходит: роботы будут музицировать, рисовать, творить, а человек грузчиком работать на тяжелых физических работах... под музыку, сочиненную ИИ.
И если говорить про скорость развития, то например ChatGPT была в числе худших сдающих экзамен на адвоката (и многие снисходительно усмехались), а модель GPT-4 от 14.03.2023 уже была в числе лучших сдавших этот экзамен.
Или другой пример, если первоначально ChatGPT писала простенькие программы (требующие проверки), то модель GPT-4 уже при неформальной постановки задачи (например рисунок от руки алгоритма) создает профессиональную программу. Некоторые компании на западе уже увольняют часть программистов заменяя их виртуальным программистом Microsoft Copilot. И т. д…
.
Что же будет, когда ребенку ChatGPT исполнится год!?
... и получается Матрица и Терминатор не такие уж и фантастические фильмы. Первое с чем сталкнемся: высокая безработица, голод... на фоне повышенного пенсионного возраста (65 лет – это дожить еще надо....)
Возможно и так...
Много того что предсказывали фантасты в прошлом – сбылось. Но есть же и оптимистические прогнозы
Скорее всего, фантасты не предсказывали, а озвучивали) И главное, с технологиями, стремительно меняются люди и смысловое поле, и похоже, что это не обратимый процесс
От значения слова “озвучили” – веет чужой волей и то, что будущее нам уже предопределено.
Есть подобные мнения/т. з./убеждения … например одно из них: Библия – Апокалипсис.
Но, как знать, как будет на самом деле?
М. б. в связи с технологическим прогрессом нам удастся заглянуть в будущее
Исполнено мастерски! Замечательно! Тема интересная🙂
Я бы добавил тема актуальная и сейчас в тренде, в том числе и у художников.
Вот, например, мнение одного из участников выставки "Космические пространства" проходящей сейчас у нас в СПб:
“Белковая жизнь, увы, достигла вершины своего развития в человеке; эволюционная миссия которого и состояла в том, чтобы стать прародителем более совершенной формы Разума.
Мы сами создаем своих преемников в бесконечной спирали жизни… Посмотрите на свой компьютер как на примитивнейшее, но живое существо, как на некую инфузорию, у которой впереди бесконечная череда совершенствования. И он нам даст возможность превратиться из хрупкого смертного существа в бестелесную информационную матрицу, обладающую невероятными свойствами и бессмертием.”
интересная задумка
You cannot comment Why?