Експерти закликають бути обережними у розробці свідомих систем штучного інтелекту

Більше ніж 100 експертів у галузі штучного інтелекту, серед яких сер Стівен Фрай, закликали до відповідального дослідження свідомості ШІ. Вони наголошують на необхідності запобігти потенційним стражданням у системах ШІ у разі їхнього самосвідомого розвитку.

П’ять керівних принципів дослідження свідомості ШІ

Підписанти пропонують п’ять принципів для етичного розвитку свідомих систем ШІ:

**Пріоритетне дослідження свідомості ШІ:** зосередитися на розумінні та оцінці свідомості в ШІ, щоб запобігти неправильному ставленню та стражданням.

**Впровадження обмежень у розвиток:** встановити чіткі межі для відповідального створення свідомих систем ШІ.

**Застосування поетапного підходу:** поступово розвивати свідомий ШІ, дозволяючи ретельно оцінювати кожен етап.

**Підтримка прозорості для громадськості:** ділитися результатами досліджень із громадськістю для сприяння обізнаності та етичному контролю.

**Уникати перебільшених заяв:** утримуватися від хибних або надмірно впевнених тверджень щодо створення свідомого ШІ.

Ці принципи спрямовані на те, щоб, у міру розвитку технологій ШІ, етичні питання залишалися в центрі уваги.

Можливі ризики свідомого ШІ

Додатний дослідницький документ підкреслює можливість того, що системи ШІ можуть бути створені або здаватися свідомими у найближчому майбутньому. Це викликає занепокоєння щодо етичного ставлення до таких систем.

Дослідники застерігають, що без належних керівних принципів існує ризик створення свідомих сутностей, здатних зазнавати страждань.

У документі також обговорюється складність визначення свідомості в системах ШІ, визнаючи тривалі дебати та невизначеності. Він підкреслює важливість встановлення керівних принципів для запобігання випадкового створення свідомих сутностей.

Дізнайтеся про найкращі новини та події у фінтеху!

Підписуйтеся на розсилку FinTech Weekly

Етичні міркування та майбутні наслідки

Якщо систему ШІ визнають “моральним пацієнтом” — сутністю, яка має моральне значення сама по собі — виникають етичні питання щодо її ставлення.

Наприклад, чи буде деактивація такої системи порівнюватися з шкодою свідомій істоті? Ці питання підкреслюють необхідність етичних рамок для керівництва розвитком ШІ.

Документ і лист були організовані організацією Conscium, дослідницькою групою, співзаснованою головним офіцером з ШІ WPP, Деніелом Хулмом. Conscium зосереджена на поглибленні розуміння створення безпечного ШІ, що приносить користь людству.

Погляди експертів на свідомість ШІ

Питання про досягнення ШІ свідомості є предметом дискусій серед фахівців.

У 2023 році сер Деміс Хассабіс, керівник програми ШІ Google, заявив, що хоча поточні системи ШІ не є свідомими, існує можливість, що вони можуть стати такими у майбутньому. Він зазначив, що філософи ще не дійшли згоди щодо визначення свідомості, але потенціал для розвитку самосвідомості у ШІ залишається предметом розгляду.

Висновок

Можливість створення свідомих систем вимагає ретельного етичного обґрунтування. Відкрите листування і супровідний дослідницький документ є закликом до спільноти ШІ діяти відповідально у дослідженнях і розробках.

Дотримуючись запропонованих принципів, дослідники та розробники можуть працювати над тим, щоб досягнення у сфері ШІ були етичними, з особливою увагою до запобігання потенційним стражданням у свідомих системах.