KoboldCpp v1.124: слияние upstream-ветки в concedo_experimental

Вышел выпуск инструмента запуска KoboldCpp v1.124. Это техническое обновление: автор слил изменения из основной ветки upstream в экспериментальную ветку concedo_experimental. Подробности — в описании релиза на GitHub.

Что это значит

Тем, кто запускает нейросети через KoboldCpp на своей машине, этот выпуск важен прежде всего как синхронизация кодовой базы. В описании релиза перечислены конфликты слияния, затронувшие бэкенды SYCL, OpenCL, OpenVINO, CUDA, CANN, Hexagon и VirtGPU, а также сборку под Apple и документацию. Конкретных изменений в поведении, новых поддерживаемых моделей или требований к железу разработчик не уточняет. Если вы используете экспериментальную ветку concedo_experimental, после обновления стоит ожидать, что она приведена в соответствие с текущим состоянием upstream. Тем, кто работает со стабильными сборками, этот выпуск напрямую ничего не меняет. Следить за новостями об инструментах запуска нейросетей можно в ленте CPU3D.