Skip to content

Conversation

@igorvolk1961
Copy link
Contributor

  1. SGR - многообещающая технология. Хотелось бы иметь возможность применять ее для как можно более широкого круга LLM.
    Однако эксперименты показали, что иногда без внесений изменений в код проекта sgr-agent-core не удается заставить модели работать.
  2. Для того чтобы максимально сохранить в целостности ядро проекта целесообразно добавить в него точки расширения, которые позволят наращивать перечень LLM, которые могут быть задействованы с этим ядром.
  3. В частности для того, чтобы использовать SGR с моделью YandexGPT 5 Pro и другими моделями Yandex, не обойтись без изменения кода метода init класса BaseAgent, так как API Yandex Cloud требует кроме URL и ключа API передать в конструктор AsyncOpenAI также идентификатор каталога пользователя, от имени которого будут выполняться запросы.
    Возможно, это не единственный случай, когда особенности авторизации у провайдера могут потребовать изменять этот код.
  4. В качестве решения предлагается выделить соответствующий фрагмент кода в отдельный метод класса BaseAgent, который может переопределен у его наследников.
    Эксперименты показали также необходимость добавления еще пары точек расширения в методах _reasoning_phase и __select_action_phase класса BaseAgent, чтобы не дублировать у его наследников эти методы целиком ради точечных изменений передаваемого в LLM контекста. Пока сами эти методы я не трогал - только объявил в BaseAgent переопределяемые методы точек расширения
    5.Для того, чтобы упростить добавление в проект новых классов - наследников BaseAgent, предлагается расширить структуру конфигурационного файла и добавить в модуль main метод загрузки дополнительных SGR-агентов, описанных в конфигурационном файле.
  5. Предлагаемые изменения реализованы в ветке extension_support

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Labels

None yet

Projects

None yet

Development

Successfully merging this pull request may close these issues.

1 participant