AP, а в чем проблема? прорыв не только в self attention, прорыв в алгоритме обратного распространения ошибки, который был тоже изобретен относительно недавно, прорыв в архитектуре сетей с сотней скрытых уровней, прорыв в том, что задачи линейной алгебры научились решать на GPU и т д
И кстати хранение информации в векторных БД и семантический поиск (RAG) — тоже прорыв в какой то степени, потому что дает доступ ко всей инфе в энтерпрайз и позволяет ее находить и использовать в LLM
А то, что куча денег (в основном — VC-шных) — сгорят — так это так всегда. Один какой нибудь Open AI все с лихвой окупит, когда выйдет на биржу

