Неверный логин или пароль
Забыли пароль?
 
19 Апреля 2024 пятница
Igor Tr10.06.2021  с помощью Деловая газета Взгляд
Как ограничить могущество искусственного интеллекта
Убийство дроном человека – предельный вариант недопустимого. Однако же существуют и более тонкие сферы. Например, где находятся пределы автоматизации, которые лишают человека работы?
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Status Quo10.06.2021
Поздно думать о боржоми.
Олег Очагов10.06.2021
Четвертый (нулевой) закон - Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред...
Dark Night10.06.2021
Самое слабое место -- что такое вред? И как между двумя вредами выбрать?
Status Quo10.06.2021
Dark Night, нет человечества - нет вреда.


Значит уничтожение на пользу.
Элеонор Куртис10.06.2021
Status Quo, вот именно. А ведь каждый индивид несёт в себе вирусы.
Олег Очагов11.06.2021
Мне кажется, что "красные линии" нужно прочертить сначала в самом общем виде...
Dark Night11.06.2021
В самом общем виде красная линия -- смерть человека. Не убий. Но там столько тонкостей, что робот в них никогда не разберется...
Олег Очагов11.06.2021
Dark Night, в общем, вы правы... но нельзя же даже не попытаться! мне вчера посоветовали "Страж-птица" Шекли...
Элеонор Куртис11.06.2021
Олег Очагов, У Шекли много хороших вещей. Он как раз писатель фантастических психологических произведений.
Олег Очагов11.06.2021
Элеонор Куртис, я много Шекли читал, а Азимов, вообще, любимый автор...
Dark Night11.06.2021
И где ж у вас столько времени... (завидую)
Элеонор Куртис11.06.2021
Dark Night, я ещё и крестиком вышивать могу)))))
Олег Очагов11.06.2021
Dark Night, последние несколько лет стал реже читать... а, бывало, запоем... )))
Постмодерн Однако11.06.2021
Робот подчиняется человеческим алгоритмам и ограничениям,ИИ сам себя программирует
Элеонор Куртис11.06.2021
Постмодерн Однако, о как. А у человека есть чётко сформулированные алгоритмы?
А ограничения какие? Категорические или не очень?))))
Dark Night11.06.2021
Постмодерн, ох уж эти сказки!.. Ох уж эти сказочники...
Старик С13.06.2021
Постмодерн Однако, Термин "программирует" здесь не подходит. Программный код не создается, а изменяются настроечные параметры сети нейронов или их аналогов.
Dark Night13.06.2021
Старик, а почему программа должна быть именно человекочитаемым кодом? Суть программы -- управлять устройством, так какая разница, как она это делает?
Status Quo13.06.2021
Dark Night, более того, программа может быть аналоговой.



Dark Night13.06.2021
У аналоговых преобразователей, при всех их плюсах, есть свои проблемы. Самая основная -- непредсказуемое искажение сигнала. Вторая по важности -- невоспроизводимость в производственном масштабе. Иначе говоря, два идентичных аналоговых преобразователя, даже одной серии, будут давать разные результаты...
Старик С13.06.2021

Dark Night, Может быть тогда договоримся о терминах? Что будем называть "программой"? В отношении фон Неймановской парадигмы, программа - это набор команд для процессора.
Нейро-лингвистическое программирование - это к психиатру.
"Программа построения коммунистического общества" - туда же.
Ещё варианты?
Старик С13.06.2021
Status Quo, Это уже стезя самоорганизующихся систем и активных сред.
Status Quo13.06.2021
Dark Night, это не отменяет того что они программы. Ц ифры тоже есть проблемы. Не о проблемах говорили, а о программах
Dark Night13.06.2021
Старик, Вам не удастся меня переиграть на моем поле. Фон Неймановская парадигма относится к ЭВМ архитектуры фон Неймана. Это существенно ограничивает ее применение. История знает и иные методы построения программ управления. Например, программа для механического пианино никоим образом не воспроизводится в виде человекочитаемого исходного кода, хотя и раскладывается на отдельные символы и лексемы. Точно ...

подробнее

Старик С13.06.2021

Dark Night, Итак, что будем понимать под термином "программа"?
Штырьки в барабане или диске можно, конечно, назвать "программой". Как и электрофицированный аналог в стиральной машине. Но!
Во-первых, программа для ЭВМ - НЕ описание РАБОТЫ ЭВМ. Это набор отдельных операций с данными. Взять по указанному адресу из памяти две пачки из ноликов и единичек, сделать простейшее ...

подробнее

Старик С13.06.2021
Dark Night, Про квантовые компьютеры - вопрос открытый. Много трескотни, отсутствие выхлопа. Основная идея - уменьшение запоминающих ячеек. И что? А чем собираются сменять состояние такой ячейки памяти? А это ключевой вопрос ФУНКЦИОНИРОВАНИЯ!
Старик С13.06.2021
Есть ещё самоорганизующиеся карты Кохонена, в которых используется слово "нейрон", абсолютно ничего общего не имеющее с моделью нейрона. Ориентированы на задачи кластеризации. Но эпопея с весами - это песня!
Dark Night13.06.2021
Ну я же специально написала, что понимаю под программой для ЭВМ. Любой метод, описывающий работу машины.

Не совсем поняла насчет "НЕ описания". Если операции с данными (и не только с данными, кстати) не являются описанием работы ЭВМ, то чем же тогда они являются? Сущность ЭВМ как раз и состоит в преобразовании информации.

Нейросетевая (или иная) архитектура может и не моделироваться. Да, ...

подробнее

Старик С14.06.2021

Dark Night, Цель создания программы - описать ЭВМ? Или все-таки промоделировать какой-то процесс? Физический, химический, экономический, ...
Виды моделей процессов весьма многообразны. Числовые - арифметика по формулам расчета. Нечисловые - логики разных типов на основе сравнения признаков.
Кроме шины - возможности процессоров. Но тупиковость парадигдмы "память отдельно - исполнитель ...

подробнее

Старик С14.06.2021

Status Quo, Так и Вы тоже "программа", написанная аминокислотами.
ДНК - знакомый термин? Это и есть программа! А "процессор" - бульон из аминокислот и всякой хрени.
Status Quo14.06.2021
Старик С, я где спорил об этом? Нормальное утверждение без всякой ржаки.
Dark Night14.06.2021
О целях создания программы мы еще не говорили.

Совершенно не обязательно программа что-то моделирует, есть огромное количество задач, для которых используются программы. Все начиналось с вычислений. Именно поэтому компьютер и ЭВМ так называются. Машине давались сложные расчеты, и она их выполняла. С развитием человеко-машинного интерфейса стали появляться более сложные системы, машина как бы дополняла ...

подробнее

Старик С14.06.2021
Dark Night, Отнocительно квaнтовых компьютеров, сyперпозиции cocтояний, квaнтовых систем ...
"Откpытая сиcтема в квaнтовой мexанике — квaнтовая сиcтема, котopая может обмениваться энергией и веществом с внешней средой" (с)
Вопрос: как УПPAВЛЯТЬ этими обменами? Обмен в никуда и ни с чем? "Кyзькина мaть" уже пoказала, на что она способна: моментально соглacились на Дoговop.
А для ...

подробнее

Старик С14.06.2021
Dark Night, Биологический нейрон - процессор и память в одном флаконе. Физические аналоги - так называемые "активные среды", когда состояние в неком элементе меняется от состояний соседей. Книжка далеко в кладовке, сходу не назову точные "имена и явки", давно этими вопросами интересовался. Можете погуглить по ключевым словам: Активные среды, автоволны и самоорганизация
Старик С14.06.2021
Status Quo, Так и я без всякой ржаки! Просто констатация факта. Просматривал когда-то книжки по биохимии и биофизике. Ну и другие, смежные с ИИ области.
Dark Night14.06.2021
Старик,
1. При всем моем уважении, Ваш реплай о квантовых компьютерах -- мимо кассы. RTFM. Причем внимательно.
2. Об активных средах. Статью Твердислова и Яковенко прочла, датирую примерно 2000 год. Аналогично, мимо кассы. Описывает известные циклические процессы в физике, химии, биологии, обществе. Если уважаете чужое время, больше так не делайте.
Постмодерн Однако16.06.2021
Обалденная дискуссия пьяных третьекурсников факультета АСУ и ПМ


я свёл к простому-можно внедрить любым способом ограничение(хоть какое)
или нет


весь смысл ИИ-настолько он уйдет от человеческого всего,что никакого ограничения ,вплоть до дергания рубильника,,,