Forwarded from wlwsk
#TECH #AI #LLM
🗜 Якщо ви працюєте в теку (або навколо нього) обовʼязково подивіться нове відео Antropic про обхід алайменту в аішках
Antropic, яким час від часу вдається перепльовувати OpenAI за результатами якості та перфомансу моделей - неймовірна компанія. Це одні з найяскравіших умів в індустрії, і я з великим задоволенням слухаю їх на тему технологічної етики.
Якщо вас цікавить чим компанії-лідери на гострії штучного інтелекту - це не тільки обчислювальні потужності і технології. Великою мірою - це етика, практичне розвʼязання парадокса брехні помноженого на кібернетику та інших цікавих етичних дилем.
Особиста думка в якій я починаю все більше і більше переконуватись: філософська освіта буде обовʼязковою разом з технічною, для всіх хто працюватиме з моделями на подібному рівні.
Antropic, яким час від часу вдається перепльовувати OpenAI за результатами якості та перфомансу моделей - неймовірна компанія. Це одні з найяскравіших умів в індустрії, і я з великим задоволенням слухаю їх на тему технологічної етики.
Якщо вас цікавить чим компанії-лідери на гострії штучного інтелекту - це не тільки обчислювальні потужності і технології. Великою мірою - це етика, практичне розвʼязання парадокса брехні помноженого на кібернетику та інших цікавих етичних дилем.
Особиста думка в якій я починаю все більше і більше переконуватись: філософська освіта буде обовʼязковою разом з технічною, для всіх хто працюватиме з моделями на подібному рівні.
Please open Telegram to view this post
VIEW IN TELEGRAM
YouTube
Alignment faking in large language models
Most of us have encountered situations where someone appears to share our views or values, but is in fact only pretending to do so—a behavior that we might call “alignment faking”.
Could AI models also display alignment faking?
Ryan Greenblatt, Monte…
Could AI models also display alignment faking?
Ryan Greenblatt, Monte…
❤24🔥8👍3