21.01.2024 00:49
AI vs Human (ШІ проти Людини)
Ця картинка-ілюстрація до свіженької статті з Тайм, яка щойно вийшла під оригінальною назвою:
When Might AI Outsmart Us? It Depends Who You A (Коли ШІ може нас перехитрити? Залежить від того, кого ви запитаєте)
Пряме посилання: https://time.com/6556168/when-ai-outsmart-humans/
Ділюсь власним перекладом обраних фрагментів цієї статі, щоби познайомити вас, друзі з тим, що має всі шанси змінити життя людства в ближні роки.
Почну з кінця, що зробив власне епіграфом:
“If governments act now, with determination, there is a chance that we will learn how to make AI systems safe before we learn how to make them so powerful that they become uncontrollable,” Stuart Russell, professor of computer science at the University of California, Berkeley, and one of the paper’s authors, told TIME in October."
"Якщо уряди діятимуть рішуче і зараз, є шанс, що ми навчимося робити системи ШІ безпечними до того, як навчимося робити їх настільки потужними, що вони стануть неконтрольованими", - сказав Стюарт Рассел, професор комп'ютерних наук Каліфорнійського університету в Берклі, один з авторів статті, в інтерв'ю виданню TIME в жовтні."
Яким був далекий прогноз?
У 1960 році Герберт Саймон, лауреат Нобелівської премії з економіки та премії Тюрінга з інформатики, написав у своїй книзі "Нова наука про управлінські рішення", що "за 20 років машини будуть здатні виконувати будь-яку роботу, яку може виконувати людина".
Історія сповнена грандіозних технологічних прогнозів, які так і не здійснилися. У сфері штучного інтелекту найсміливіші прогнози стосувалися появи систем, здатних виконувати будь-яке завдання, що під силу людині, які часто називають штучним загальним інтелектом, або ШЗІ (artificial general intelligence, AGI).
Що в останні роки?
Тим не менш, ШІ, безумовно, стрімко прогресує. GPT-3.5, мовна модель, яка лежить в основі ChatGPT від OpenAI, була розроблена у 2022 році і набрала 213 балів з 400 на Єдиному адвокатському іспиті - стандартизованому тесті, який повинні скласти майбутні юристи, - і опинилася в нижній 10% серед людей, які складали цей тест. GPT-4, розроблений лише кілька місяців по тому, набрав 298 балів, потрапивши до 10% найкращих. Багато експертів очікують, що цей прогрес продовжиться.
Який прогноз зараз?
Тож коли Шейн Легг, співзасновник Google DeepMind і головний науковець з ШІ, оцінює ймовірність розробки ШІ до 2028 року в 50%, може виникнути спокуса списати його з рахунків як ще одного піонера ШІ, який не засвоїв уроки історії.
Погляди Легга є поширеними серед керівництва компаній, які наразі створюють найпотужніші системи штучного інтелекту. У серпні Даріо Амодей, співзасновник і генеральний директор Anthropic, заявив, що очікує, що ШІ "людського рівня" може бути розроблений через два-три роки. Сем Альтман, генеральний директор OpenAI, вважає, що ШІ може бути досягнутий протягом наступних чотирьох-п'яти років.
Але в нещодавньому опитуванні більшість з 1712 експертів у галузі ШІ, які відповіли на запитання про те, коли, на їхню думку, ШІ зможе виконувати будь-яке завдання краще і дешевше, ніж люди, були менш оптимістичними. Окреме опитування елітних прогнозистів з винятковим послужним списком показало, що вони все ще менш оптимістично налаштовані.
Ставки на те, хто виявиться правим, дуже високі. Легг, як і багато інших піонерів ШІ, попереджає, що потужні майбутні системи ШІ можуть призвести до вимирання людства. І навіть ті, кого менше турбують сценарії про Термінатора, попереджають, що система ШІ, яка може замінити людину у виконанні будь-якого завдання, може повністю замінити людську працю.
Які розбіжності в оцінках експертів?
Існує багато розбіжностей, які підживлюють дебати про те, коли можна розробляти AGI, каже Катя Грейс, яка організувала експертне опитування як провідний дослідник AI Impacts. По-перше, чи будуть достатніми нинішні методи побудови систем ШІ, підсилені більшими обчислювальними можливостями і більшим обсягом даних, з невеликими алгоритмічними змінами? Відповідь на це питання частково залежить від того, наскільки вражаючими ви вважаєте нещодавно розроблені системи ШІ. Чи є GPT-4, за словами дослідників з Microsoft, іскрою AGI? Чи це, за словами філософа Губерта Дрейфуса, "все одно, що стверджувати, що перша мавпа, яка вилізла на дерево, зробила крок до висадки на Місяць?"
По-друге, навіть якщо нинішніх методів достатньо для досягнення мети розробки AGI, незрозуміло, наскільки далека фінішна пряма, каже Грейс. Також не виключено, що щось може перешкоджати прогресу на шляху, наприклад, нестача навчальних даних.
Нарешті, на тлі цих більш технічних дебатів вимальовуються більш фундаментальні переконання людей про те, наскільки сильно і як швидко світ може змінитися, каже Грейс. Ті, хто працює у сфері штучного інтелекту, часто занурені в технології і відкриті до ідеї, що їхні творіння можуть кардинально змінити світ, тоді як більшість людей відкидають цю ідею як нереальну.
То які ставки?
Ставки у вирішенні цієї суперечки дуже високі. Окрім того, що ми запитали експертів про те, як швидко, на їхню думку, ШІ досягне певних рубежів, AI Impacts поцікавився їхніми думками про соціальні наслідки цієї технології. З 1 345 респондентів, які відповіли на запитання про вплив АІ на суспільство, 89% сказали, що вони суттєво або надзвичайно стурбовані глибокими фейками, створеними штучним інтелектом, а 73% так само стурбовані тим, що АІ може розширити можливості небезпечних груп, наприклад, дозволивши їм створювати віруси. Середній респондент вважає, що ймовірність того, що ШІ призведе до "вкрай поганих" наслідків, таких як вимирання людства, становить 5%.
Враховуючи ці побоювання, а також той факт, що 10% опитаних експертів вважають, що до 2030 року ШІ зможе виконувати будь-які завдання, які може виконувати людина, Грейс стверджує, що політикам і компаніям слід готуватися вже зараз.
Підготовка може включати інвестиції в дослідження безпеки, обов'язкове тестування безпеки та координацію між компаніями та країнами, що розробляють потужні системи ШІ, каже Грейс. Багато з цих заходів також були рекомендовані в документі, опублікованому експертами зі штучного інтелекту минулого року.
Стаття закінчується тим самим твердженням, яке я виніс наперед у якості епіграфа, бо мабуть не всі дочитали до кінця, бо в тексті багато тексту)
"Якщо уряди діятимуть рішуче і зараз, є шанс, що ми навчимося робити системи ШІ безпечними до того, як навчимося робити їх настільки потужними, що вони стануть неконтрольованими", - сказав Стюарт Рассел, професор комп'ютерних наук Каліфорнійського університету в Берклі, один з авторів статті, в інтерв'ю виданню TIME в жовтні."
От і я думаю, що головне тут слово "Якщо", бо якщо так, то тоді прямо до Кращого рішення, де зустрінуться і ШІ і психотерапія)
psychotherapy.ua
Все записи...