Карьера в AI Safety - это кайф

Карьера в AI Safety - это кайф

Я тут подумал, что очень глупо не рассказывать в этом канале про сейфти и элайнмент, вы же максимально ЦЕЛЕВЫЕ, потому что студенты.

Короче, коротко: Жили-были люди, и были люди слабые, их там тигры всякие саблезубые могли съесть, и люди боялись смерти. Но в реальности, как биологический вид, мы были вполне устойчивыми - одного тигр съел, а другой убежал и размножился, и вот дети все рождаются с длинными ногами и тоже могут убегать.

Потом люди стали резко прогрессировать и победили тигров, теперь мы их не боимся (и вообще многие наши древние “враги” уже вымерли).

Потом люди изобрели ядерное оружие. И вот тут началось самое интересное. Даже 50тыс. лет назад саблезубые тигры не могли уничтожить весь наш вид. А теперь мы стали гораздо круче и сильнее, поэтому весь наш вид может уничтожить маленькая горстка людей, у которых есть КНОПКА.

Но как-то мы уже 80 лет живём с ЯО и до сих пор не разнесли всю планету (хотя много раз были к этому очень близки)

Так вооооооот, а сейчас мы подошли к новому рубежу: создание Бога. Мы собираемся создать суперинтеллект, нечто гораздо умнее, чем мы сами. И там есть куча проблем с этим будущим богом.

Например, люди не умеют загадывать желания. “Хочу чтобы все люди были счастливыми” - и мы получаем матрицу, где всех зашили в капсулы и непрерывно обкалывают героином. “Хочу, чтобы ты не убивал людей” - окей, я не буду, просто создам условия где вы сами друг друга поубиваете. “Просто веди себя в соответствии с человеческими ценностями” - мммм, круто, историки похихикали, вспоминая освоение Европейцами Северной и Южной Америки, или работорговлю (которая, кстати, процветает до сих пор).

Интересно было читать про это? Так вот, есть такая область знаний, называется AI Safety - безопасность в развитии Искуственного Интеллекта. И там можно заниматься исследованиями (даже если ты не очень умный). Можно слушать про это лекции и думать про это.

И на мой взгляд, на сегодняшний день это САМОЕ ПОЛЕЗНОЕ ЗАНЯТИЕ В МИРЕ. Это, типа, вообще лучшее, чему ты можешь посвятить своё время и силы.

А ещё там зарплаты капец какие высокие. Ну потому что в деньгах проблемы нет, есть проблема в крутых умных кадрах, кто мог бы помочь решить проблему безопасности всего человечества.

Иди гуглить, ресерчить, искать и находить. Я буду постить про это ещё.