Головна Техноголії і наука Контроль за надрозумним штучним інтелектом – OpenAI створює відповідну команду Контроль за надрозумним штучним інтелектом – OpenAI створює відповідну командуINFBusiness09.07.2023Техноголії і наука В OpenAI вважають, що штучний інтелект зможе контролювати ШІ © depositphotos / Wavebreakmedia Там вважають, що системи з інтелектом, який перевершує людський, можуть виникнути протягом десятиліття. Компанія OpenAI почала формувати команду, яка розроблятиме способи управління та контролю «надрозумних» системи штучного інтелекту. Команда працюватиме під керівництвом Іллі Суцкевера, головного наукового співробітника та одного із співзасновників компанії, повідомляє Techcrunch. Суцкевер та Ян Лейке, керівник групи узгодження в OpenAI, вважають, що ШІ з інтелектом, який перевершує людський, може з’явитися вже протягом десятиліття. І такий ШІ – коли він з’явиться – не обов’язково буде доброзичливим, тому необхідно досліджувати способи контролю та обмежень. «В даний час у нас немає рішення для управління потенційно надінтелектуальним ШІ та запобігання його виходу з-під контролю. Наші поточні методи узгодження ШІ, такі як навчання з підкріпленням на основі відгуків людей, ґрунтуються на здатності людей контролювати ШІ. Але люди не зможуть надійно контролювати системи ШІ, які набагато розумніші за нас», – заявили вони. Нова команда намагатиметься вирішити цю проблему, розробляючи «автоматизованого дослідника вирівнювання на рівні людини». Ідея полягає в тому, що системи ШІ на підставі зворотного зв’язку від людини можуть допомогти в оцінці інших таких систем. Гіпотеза OpenAI полягає в тому, що ШІ може швидше і краще просувати дослідження з вирівнювання, ніж люди. Зрозуміло, жоден метод не є ідеальним. Керівники компанії визнають, що використання ШІ для оцінки може збільшити невідповідність, упередження або вразливість у цьому ШІ. І може виявитися, що найскладніші частини проблеми вирівнювання можуть бути взагалі не пов’язані з інженерією. Водночас вони вважають, що спробувати варто. Related video Нагадаємо, наприкінці березня понад тисячу експертів, серед яких засновник SpaceX і Tesla Ілон Маск, один із засновників Apple Стів Возняк, Юваль Ной Харарі та інші, підписали листа, в якому закликали поставити на паузу розробку просунутого штучного інтелекту. Джерело Rate this item:1.002.003.004.005.00Submit Rating No votes yet. Please wait... Поділіться своєю любов'ю Попередній Запис Ariane 5 - відбувся останній запуск найпотужнішої ракети-носія Європи Наступний Запис Індустрія 5.0 - що це означає і чим відрізняється від четвертої ітерації Пов’язані записи Вихід S.T.A.L.K.E.R. 2 – у соцмережах публікують меми про українську гру22.11.2024 Вихід S.T.A.L.K.E.R. 2 – продажі української відеогри перевищили мільйон22.11.2024 S.T.A.L.K.E.R. 2 офіційно вийшов – головні новини про цю давно очікувану українську гру20.11.2024 Залишити відповідьСкасувати відповідьВаша e-mail адреса не оприлюднюватиметься. Обов’язкові поля позначені * Ім’я * Email * Додати коментар * Зберегти моє ім'я, e-mail, та адресу сайту в цьому браузері для моїх подальших коментарів.Опублікувати коментар Δ