"Кажется, что с совсем маленьким игрушечным языком (например, язык Дерсу Узала) это не работает. Надо размерность пространства эмбеддингов побольше. Чтоб там было примерно столько размерностей, сколько в языке есть явно выраженных ""простых смыслов"". Лингвисты наверное должны в таком шарить."