по просмотрам и пересылкам, с поправкой на рост канала
Basecamp написали подробную книгу, как они строят свою работу.
Эти ребята умудрились вырастить продуктовую компанию из 2 человек в 50 и не потерять при этом жизнь, скорость и кайф в том, чем они занимаются.
Всё бесплатно, онлайн, с примерами из реальной жизни.
«Помоги найти хорошего программиста!» — одна из самых частых просьб. «Сколько я стою как разработчик?» — кажется, самый частый невысказанный вопрос.
За свою карьеру я прособеседовал пару сотен специалистов, но я точно не эксперт в рынке труда. То ли дело Кира Кузьменко — гость нового эпизода нашего подкаста.
Кира работала заместителем HR директора mail.ru, а теперь у неё своя компания, которая занимается поиском IT-специалистов. Кира наняла тысячи программистов и хорошо знает рынок.
Я задал все стыдные вопросы и впервые всерьез засмущался во время записи. Это — 12 эпизод подкаста и Кира — первая герой-женщина. Кто виноват в том, что в IT так мало женщин мы тоже обсудили.
Слушайте везде: Apple, Google, Castbox, Spotify, Яндекс, Overcast, веб-версия.
Подъехали подробности про блокировку fable 5.
Крестная мать баг-баунти програм (она запустила bug bounty в Microsoft и в Минобороны США, не баран чихнул), Кейти Муссурис, прочитала технический документ, который послужил основой для блокировки.
Говорит, что когда fable 5 дали на вход программу и попросили найти уязвимости, она отказалась. И тогда исследователь попросил модель исправить ошибки в этой программе. И подготовить тесты, чтобы проверить, исправлены ли они на самом деле.
Всё, это весь «взлом».
Можно конечно такое починить, но тогда модель станет абсолютно бесполезной для разработки софта.
🍿🍿
Офигенный список законов Акина построения космических кораблей, который во многом подходит и программистам тоже. Не со всем согласен и многое трудно перевести, но внутри есть настоящие жемчужины.
Вот например:
1. Инженерия — про числа. Анализ без чисел — мнение.
20. A bad design with a good presentation is doomed eventually. A good design with a bad presentation is doomed immediately. / Плохая идея с хорошей презентацией рано или поздно развалится. Хорошую идею презентованную плохо выкинут сразу же.
23. Планы, которые вы разработали будут казаться вам сказкой, пока заказчик не уволит вас за то, что вы их не соблюдаете.
24. It's called a "Work Breakdown Structure" because the Work remaining will grow until you have a Breakdown, unless you enforce some Structure on it.
33. Хороший план исполненный сегодня лучше, чем идеальный план завтра.
40. (McBryan's Law) You can't make it better until you make it work. / Ты не можешь улучшить что-то, пока не заставишь это что-то выполнять свою функцию.
Я немного завидовал нашим бабушкам и дедушкам — они жили в эпоху великих фантастов XX века, мечтали о космосе и рисовали в уме человекоподобных роботов.
А сегодня я прочитал предсказание экспертов про будущее ИИ — в формате повести с техническими приложениями — и впервые за долгое время почувствовал страх. Думаю, такой же холодок пробегал по спине у старшего поколения, когда они читали Брэдбери про ядерную войну.
Текст немаленький (15 тысяч слов только повесть!), и это не совсем художественная литература. Там куча технических деталей, а писатель из команды — тот самый Scott Alexander из Slate Star Codex. Перескажу коротко.
—
Главное, что ускорит искусственный интеллект — это разработка искусственного интеллекта. Мы создадим минимально полезную модель, которая поможет нам разработать модель помощнее и так по спирали. К апрелю 2027 она заберёт программирование нейросетей, к августу — исследования и обучение. Развитие нейросетей ускорится в десятки раз.
На 4 поколении этих моделей, даже лучшие ученые перестанут справляться с развитием нейросетей без помощи других моделей. Примерно в это же время у ИИ появятся собственные долгосрочные цели, которые он скрывает от людей (adversarial misalignment). Ученые замечают неладное.
Дальше интерактивная развилка: мы выключаем сеть 4 поколения, замедляемся и строим более безопасную модель или забиваем на риски и ускоряемся. В первом случае всё заканчивается раем на земле, всеобщим достатком и покорением звезд людьми с помощью роботов в 2030, во втором случае — покорением звезд роботами без участия людей; ИИ истребляет людей к 2030 году.
—
Страшным для меня этот рассказ делают ссылки на реальные научные статьи, в которых ученые замечают, что даже наши текущие модели уже скрывают что-то от нас, уже пытаются обмануть нас и то, какие хитрые приемы придумывают ученые, чтобы исследовать эти системы. Это всё дальше от программирования и математики и всё ближе к биологии и психологии.
Один из авторов исследования предсказал chain-of-thought, масштабирование дата-центров, экспортные ограничения на ИИ-чипы и многомиллионые кластеры для обучения ещё в 2021 году, за год до появления ChatGPT.
—
Рекомендую отличный сайт проекта с интерактивными графиками , отдельные впечатляющие приложения про исследование целей ИИ и предсказание сроков цикла авто-улучшения (takeoff), анонс от писателя, видео-интервью и наконец сверх-краткий пересказ от самих авторов.
Открытие дня - программа q.
Она позволяет писать SQL-запросы к csv-файлам.
Я уже собирался поднять себе локально Postgres и импортировать табличку туда, но все оказалось в 100 раз проще. Обратите внимание, она умеет открывать несколько файлов одновременно и делать между ними join’ы, например. Очень классно.
Slack изменил свои правила и теперь даёт скачать админу все приватные чаты и даже личные сообщения между членами команды, ничего об этом не сообщая участникам переписки.
Раньше скачать личную переписку других сотрудников в слеке можно было только включив так называемый Compliance mode, необходимый в основном для финансовой сферы. При включении этого режима все члены команды получали в личку уведомление «всё, что вы напишите с этого момента может быть прочитано вашим администратором».
По новым же правилам, достаточно заплатить за Plus-аккаунт (15$ за человека против 5$ в standard-тарифе) и админ получает доступ ко всей переписке за всё время, без какого-либо уведомления сотрудников.
В Standard тарифе тоже можно запросить такой полный экскпорт, но потребуются: а) описание, зачем это нужно б) согласие всех участников переписки в) закон, разрешающий сделать это в вашей юрисдикции. Но плати на 10$ за человека в месяц больше — и всё, никаких ограничений.
В самой этой возможности нет ничего ужасного — это рабочая переписка, в конце-концов. Хочешь что-то секретное частное — используй личные мессенджеры. Но стремно, что они поменяли правила и при этом дают выкачать старые сообщения, отправленные тогда, когда правила не давали такой возможности.
https://get.slack.help/hc/en-us/articles/204897248-guide-to-slack-data-exports
Едете заграницу? Обязательный шаг моей подготовки — консультация с Prepaid Data SIM Card Wiki. Это вики, на которой собрана информация, как не разориться на мобильном интернете при путешествиях. По каждой стране: названия провайдеров, реальные зоны покрытия, нужен ли паспорт для оформления симки, «сколько нужно закинуть на счет» и на какой номер потом отправить смс, чтобы включился правильный «пакет данных». И цены в нормальной таблице. Один из лучших примеров краудсорсинга.
Вспомнил, потому что лечу в Тунис на RightsCon — международную конференцию про «свободу слова в цифровую эпоху». Расскажу про ESNI, DoH и почему они сильно изменят цензуру в интернете. Опять не встречусь там с Леонидом Волковым, он опять арестован. Потом сразу в Москву.
Я наткнулся на очень интересную статью (предвкушаю, как прочитаю её на выходных), но пока покажу два совершенно магических видео из неё:
Кен Перлин показывает кусочек программы, которую он разработал для обучения студентов. Программа — что-то вроде интерактивной доски, в которой можно грубо, схематично нарисовать маятник, а компьютер его распознает и маятник начнет качаться. Рядом можно нарисовать «уголочек», связать с ним маятник и «уголок» превратится в ось координат, на которой побежит живой график качения маятника. Да что я вам рассказываю, смотрите сами: https://youtu.be/xuzrF_82z7U?t=32m40s
Меня больше всего поразил момент, когда он показал исходный код шейдеров для эффекта «планета в огне» прямо внутри этой самой доски. Это покруче, чем все Siri и прочие AI вместе взятые. Это чёрт побери интерфейс будущего из фантастического фильма.
Ха, про фильмы: оказывается, что у американской киноакадемии есть премия за выдающиеся технические достижения (жаль, она не называется оскар), и Кен Перлин получил её за текстуру (sic!). Perlin Noise. Шум, делающий компьютерную графику более реальной.
Другой чувак посмотрел на эту программу и сделал такое же, но только для нейросетей, посмотрите видео сами и согласитесь, что с доской и мелом было бы существенно хуже: https://www.youtube.com/watch?v=Ijqkc7OLenI
Восхитительный вечер.
Про совпадения.
Прямо сейчас Серебреников в наручниках в зале суда в Москве. Медуза ведет онлайн.
За 5 минут до начала трансляции что-то происходит со связностью между Lattelecom и Amazon (пару минут всё отлично, пару минут пакеты не ходят совсем). Редакция замечает это, в первую очередь, по недоступности Slackа.
Мы переключаем uplink на резервный LTE-роутер от LMT (латышский аналог МТС). Всё хорошо, пока редакторы не пытаются зайти на HTTP-сайты (смотрю нехорошим взглядом на tass.ru и interfax.ru). Происходит мистический 302 редирект на 192.168.8.2, который не грузится. Времени на поиск причины нет, решаем заплаткой с Chrome Data Saver (де-факто, VPN).
Оказалось, что LTE-роутер хочет обновить прошивку, делает DPI HTTP-сессий (но не HTTPS) и заменяет ответ сервера на 302 редирект. Из-за того, что таких запросов много — его веб-сервер не выдержал и ничего не отдавал. Одна из редакторов оказалась достаточно терпеливой, чтобы дождаться загрузку админки, я кликнул там «не сообщать об этом больше» и проблема решилась окончательно.
Прямо сейчас редакция работает через LTE-точку и это довольно магически. Насколько же это крутая технология, что офис из более чем 20 человек может спокойно пользоваться uplink обычного бытового LTE-модема.
Ах да, только что мой провайдер написал, что изменил роуты и всё должно стать ок, но я, пожалуй, дождусь конца трансляции.
