Читать книгу Церебрум - Алеся Троицкая - Страница 3

Шесть правил идеального робота

Правило первое: Не доверять роботам задачи, которые связаны со значительным риском для общества. Другими словами, действия роботов должны быть предсказуемы, а возможность катастроф сведена к минимуму.

Правило второе: Ни при каких условиях не доверять роботам оружие и/или не предоставлять им управление вооружением.

Правило третье: Соблюдать три Закона робототехники Азимова:

1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред.

2. Робот должен повиноваться командам человека, если эти команды не противоречат Первому Закону.

3. Робот должен заботиться о своей безопасности, пока это не противоречит Первому и Второму Законам.

Правило четвертое: Программирование роботов с учетом целого ряда условий и принципов. Одним из них является принцип максимально полезных действий – то есть, выбирать из целого ряда возможных поступков лишь те, которые принесут пользу как можно большему количеству людей.

Правило пятое: Наделять робота только основным набором эмоций.

Правило шестое: Не наделять машину СОЗНАНИЕМ – «РАЗУМОМ»!

Мы пренебрегли всеми этими принципами во благо человечества. И не успеем осознать свою ошибку, так как нас… не станет.

Последняя запись из дневника Грегори Райна.

Год 2220