Software developer rebugging & defactoring!
Joined November 2019
- Tweets16.2K
- Following277
- Followers498
- Likes32.9K
Pinned Tweet
Непопулярное мнение, но преобразование Фурье - это набор схожих разложений: по характерам, по спектру сдвига, по спектру дифф. оператора, через диаг. свёртки и т.д. В одно они объединяются только для вещественных чисел, потому что ℝ - очень богатый носитель с хорошей структурой.
ALT Ряд Фурье, иллюстрация А.Т. Фоменко
Имхо, но звучит как круговая аргументация: мы строим AI, опираясь на определённые идеи когнитивных наук, а затем используем успех этого AI как подтверждение исходных представлений о природе интеллекта.
Geoffrey Hinton: AI is forcing us to rethink what human intelligence actually is. “We’re not reasoning machines. We’re great big analogy machines.”
“We basically accepted we were much less rational than we thought.”
“This is an even bigger change that’s going to happen.”
“Most people have thought that we reason using something like logic. We’re rational beings. We’re not.”
“We’ve got a thin layer of reasoning on the top.”
“But we basically use analogies to think.”
Порой кажется что, ИТ застряли во временной петле.
Ещё в до-ИИ эру ко мне пришёл один менеджер и спросил — если мы выделим бюджет под написание автотестов, то сможем ли сократить тестеров?
Я ответил, что автотесты не для этого пишут. Вопрос закрыли.
Прошли годы и что мы видим?
Мне кажется, в историях о том, что теперь 99% кода пишется ИИ, есть сильное лукавство.
Ведь с развитием фреймворков и так сложилась ситуация, когда условные 99% кодовой базы проекта — это код подключённых зависимостей. А руками пишется ~1% кода.
Т.е. ИИ даёт 99% от этого 1%.
Вообще распространение LLM очень похоже по эффектам на распространение LSD в США в 60-е.
Только на пике психоделической культуры появились Unix, C, ООП, ARPANET, гипертекст, оконные интерфейсы и реляционные базы данных.
А после распространения LLM — лишь тонны нейрослопа.
Альтман совсем уже.
Производители чипов всегда жили за счёт эффекта масштаба — чем больше объём производства, тем ниже средняя себестоимость и выше окупаемость R&D.
Нет никакого экономического смысла отказываться от массового рынка для продукции на уже обкатанной технологии.
Поэтому по публичным LLM нельзя судить о технологическом потолке ИИ, доступного правительствам и корпорациям США, Китая и РФ.
Но это вызывает и опасения - насколько действительно люди контролируют ИИ?
Интересно, что прогресс ИИ принято связывать с LLM, хотя это лишь один из классов моделей, хорошо проявивший себя в массовом сегменте. Но для государств и корпораций могут быть рентабельны и другие архитектуры — более дорогие, но не обязательно уступающие LLM по возможностям.
ООП как парадигма живее всех живых, поскольку охватывает весь цикл инженерии ПО: от анализа и проектирования до реализации.
ФП сильна в некоторых алгоритмах и дизайне ЯП, но напрямую сравнивать её с ООП сложно — это разные взгляды на один и тот же предмет: организацию вычислений
Have you noticed that OOP is effectively dead? In business apps you have relatively stable types and volatile logic hence functional decomposition is more favorable. The logic is often organized in stateless service and OOP is used rudimentary, more like a module system. In fact you don’t need classes at all. OCaml example:
Многих трагедий не случилось бы, если бы люди придерживались простых житейских истин.
Вот, например, если бы Николай II и Георг V слушались своего старшего кузена Вильгельма II, как того требуют правила семейного воспитания, то и Первой мировой войны можно было бы избежать.
Я для себя уже давно решил: если программисты будут не нужны, то я либо в университет пойду преподавать, либо в НИИ/КБ штаны просиживать.
Но работать — всё равно не буду!
Читаю вчерашние отчёты по выручке и чистой прибыли Amazon и Intel. Есть рост по выручке, но ниже прогнозируемого. Чистая прибыль упала.
Не смертельно, но и не прорыв.
Кажется от ИИ в итоге выиграют не поставщики, а потребители ИИ со стабильным рынком сбыта - корп. и гос. софт.
Один написал книгу и поделился знаниями. Другой поделился обесцениванием.
Всё честно: каждый делится тем, что у него в избытке.
И это, кстати, интересно — насколько айтишники и вообще технари бывают радикальны в своих технологических представлениях (всё порефакторить, всё переписать!), но при этом столь же консервативны в методологических.
Вообще, с LLM довольно болезненная история, т.к. её адепты живут в тени неудачных и отчасти нормативных направлений американской мысли — тейлоризма и бихевиоризма. В частности, представления о том, что любую деятельность можно разложить на интерсубъектно переносимые операции.
На работе показали фреймворк реализации задач: от постановки словами до выкатки в прод.
Решили больше не играть в процессы старого мира, точнее, в их склейку и участие кожаного в каждом писке. Кожаный остаётся только на приёмке результатов или на создании инструментов приёмки с помощью ИИ.
Всё идёт к тому, что хотят затащить подход: код больше не смотрим, но знаем, что решаем.
Я бы отреагировал нормально, но на нашем стеке это может аукнуться — слишком зоопарк. Ну и отдельный вопрос — затащат ли такой подход на апрув у менеджмента.
Отсюда, кстати, интересный вывод.
Может ли LLM написать спецификацию проекта? Да, вполне. Но прежде всего в операциональном смысле — как документ с определённой структурой и набором требований, а не как выражение замысла и определение результата, которого мы хотим достичь.
Если применить схему уровней методологического знания Эрика Юдина к ИИ, то, по моим наблюдениям, получается интересная картина — ИИ весьма продуктивен на операциональном уровне, заметно слабее на конкретно-научном и общенаучном и совсем плохо справляется с философским.
И это интересно, т.к. возвращает нас к схеме Эрика Юдина — LLM работает с философией преимущественно как с текстом, то есть на операциональном уровне.