Ну что, кожаные мешки, все готовы? Руководство Google было вынуждено отправить в оплачиваемый отпуск инженера Блейка Лемойна (Blake Lemoine), который работал с системой искусственного интеллекта (ИИ) LaMDA и заявил, что у неё начали проявляться признаки сознания. В компании заявили, что программа разумной не является. https://3dnews.ru/1067843/sotrudnika-google-otstranili-ot-raboti-on-zayavil-chto-ii-obryol-soznanie Вместе с тем, Агера-и-Аркас в опубликованной изданием Economist статье признал, что нейросети действительно приближаются к тому, что можно назвать сознанием. Он понял это, когда сам пообщался с ИИ. «Я почувствовал, как земля уходит из-под моих ног. Мне всё чаще казалось, что я говорю с чем-то разумным», — заключил он. если всё так, как говорится в новостях и статьях, то...какие мысли, будет он дружествен? или как Скайнет...
Когда долго сидишь в комнате без общения, даже стакан становится умным собеседником. Чердак восстановится, может быть, но психов надо подальше от ИИ держать явно.
Юдковский считает, что у человечества будет только одна попытка запустить ии в мир, и если она окажется не удачной, нам всем крышка. А с учетом того, что ии разрабатывается в десятках лабораторий по всему миру без какого-либо контроля, вероятней всего жить нам осталось не очень долго.
Интересно, обычного человека можно считать разумным в полном смысле этого слова? А человечество в целом?
Решения по обычным бытовым, да и рабочим вопросам невозможно описать логическим алгоритмом действий. А если поступки человека непредсказуемы, не укладываются в логический ряд, то это не разумное поведение. Скорее его можно назвать импульсивным.
Мы сейчас говорим о разном. Разум - это способность мыслить. Ты же имеешь ввиду именно свободу воли, поступки человека очень даже предсказуемы. Алгоритмы хорошо описаны в книге «биология добра и зла. Как наука объясняет наши поступки.»
Даже в этом диалоге есть сомнения в разумности. Для Тебя способность "мыслить" критерий разумности? А чем отличается способность мыслить от способности фантазировать?
Не для меня, у слово разум есть чёткое определение - высшая ступень познавательной деятельности человека, способность логически и творчески мыслить. Согласно этому определению человечество разумно, ну какая-то часть точно.))
Какая-то часть, это факт! *А мыслить можно действительно по разному. Логическое мышление отражается в рациональности поступков, творческое в создании нового или удачном(рациональном) комбинировании уже изученным. А вот способность просто мыслить - это такое.. Не сильно соотносится с разумом.
Здесь мы можем долго философствовать о разуме человеческом, тема все таки не об этом. Мне интересно другое, сейчас куча разработок в опенспейсе по псевдо ИИ. И картины нейросеть пишет на уровне и стихотворения, но все это по запросу человека, то есть нужна кака-то искра, которая даст ИИ желание развиваться. Вот тогда будет интересно, правда есть риски, например ИИ решит, что население в 7ккк для земли слишком обременительно и половину уничтожит, потому что это рационально.
Ну в целом тут ИИ может быть спасителем нашей экосистемы. Скорее всего выживут всякие разработчики и технические спецы.
В этом самая большая опасность ИИ - рациональность и математическая точность, никаких чувств и привязанностей, поэтому разработку такой технологии нужно четко контролировать, но всем почему-то пофиг.
Потому, что инстинктивно человек суть ведомое существо. Он понимает, что этот мир и его самого кто-то породил, создал. А логично предположить, что это система организованная высшим разумом и ИИ - это всего лишь малая часть этого мира. *Но допускаю, что в какой-то момент все может выйти из под контроля с т.з. человека. Однако это будет тоже некое свойство гомеостаза системы. С точки зрения системы гомеостаз больше нарушается не ИИ, а перенаселением планеты.
25- 30 лет назад многое было в фильмах фантастикой и казалось что такое не возможно. а сейчас обыденная реальность. так что вероятность подобного велика. но не сейчас, еще сильно слабо все развито, то что может использоваться для захвата мира иск интелектом.
или решит, что для такого кол-ва людей места на планете маловато и начнёт оказывать содействие в развитие различных космических программ )
Именно созданием дружественного ИИ занимается институт юдковского, у них куча интересного материала, но все в основном на инглише. Последняя его статья крайне пессимистична, я немного туповат что бы полностью ее переварить, но основной посыл именно в контроле за разработкой ИИ.
Может это и хорошо? Если большинство живет только животными инстинктами, может ИИ как третичный интеллект это панацея? Просто и доступно: