litellm суперудобная либа. доступ ко всем провайдерам одинаковым и заметно упрощенным способом
зы копилота похоже понесло