LCZero

[svoitsl]

Цитата: Сообщение от Maratka

Не сломалось - не чини!

Просто с тех пор уже два варианта CUDA появились

Newest (2018+) NVidia GPUs: RTX 20xx, RTX 30xx and so on (but not GTX 16xx) CUDA
Newer (2014-2018) NVidia GPUs: GTX 7xx, GTX 8xx, GTX 9xx, GTX 10xx and also GTX 16xx CUDNN
У меня на GT730 тоже CUDA Не работает, а вот CUDANN - работает

[Viktor]

Цитата: Сообщение от Maratka

Не сломалось - не чини!

Не понял смысл ответа. У меня как раз "сломалось" и пришлось "чинить".

[Maratka]

Поясняю:

Цитата: Сообщение от Viktor

Обновлял видеодрайвера через Nvidia. Как-то раз у Лилы начались сбои и мне пришлось откатывать версию.

Вопрос: зачем обновляли? Вы в 3D-игрушки бегаете по вечерам, новые, навороченные, где каждый кадр в секунду дорог? Все работало? Тогда зачем обновление?

Вот кстати вполне типичное поведение свежего, но с обнаруженными проблемами драйвера:
https://3dnews.ru/1059639/publikatsiya-1059639
И это - вполне обычное дело.

[Maratka]

Цитата: Сообщение от svoitsl

Просто с тех пор уже два варианта CUDA появились

В рамках данного форума и темы - когда оно потребуется (ибо вышел новый движок, который использует что-то там из нового функционала от nVidia) - тогда оно и нужно. Не раньше. А выходят эти новые версии движков не так уж и часто, у Лилы упор больше в сеть, чем в сам движок, в отличии от SF'ша.

[svoitsl]

Цитата: Сообщение от Maratka

когда оно потребуется (ибо вышел новый движок, который использует что-то там из нового функционала от nVidia) - тогда оно и нужно. Не раньше

Эти варианты довольно тесно связаны с GPU, раньше был только CUDA и он работал везде, потом для старых GPU сделали CUDANN (о чем выше написано) и на них перестал работать вариант CUDA

[Viktor]

Цитата: Сообщение от Maratka

Поясняю:


Вопрос: зачем обновляли? Вы в 3D-игрушки бегаете по вечерам, новые, навороченные, где каждый кадр в секунду дорог? Все работало? Тогда зачем обновление?

Вот кстати вполне типичное поведение свежего, но с обнаруженными проблемами драйвера:
https://3dnews.ru/1059639/publikatsiya-1059639
И это - вполне обычное дело.

Согласно последних тенденций каждое обновление приносит больше ошибок, чем улучшений. Но рядовому пользователю чаще не разобраться. Известно и другое, что обновление необходимо для работы каких-то функций.
Но я установил прежнюю версию драйвера, но "поезд ушел"...
Теперь вот не обновляю, убедившись в никчемности программистов.

[dew]

Цитата: Сообщение от Viktor

Согласно последних тенденций каждое обновление приносит больше ошибок, чем улучшений. Но рядовому пользователю чаще не разобраться. Известно и другое, что обновление необходимо для работы каких-то функций.
Но я установил прежнюю версию драйвера, но "поезд ушел"...
Теперь вот не обновляю, убедившись в никчемности программистов.

Если я правильно понимаю, твоя видюха давно не поддерживается? Или я гоню? Если я прав, то о каких обновлениях CUDA API может идти речь?

А вообще, раз уж я поэтическая личность, то )

[Viktor]

Цитата: Сообщение от dew

Если я правильно понимаю, твоя видюха давно не поддерживается? Или я гоню? Если я прав, то о каких обновлениях CUDA API может идти речь?

Да это было "в далеком прошлом" и я об этом написал. Мне просто интересно было узнать про ту "видюху".
А по поводу CUDA актуально и об этом надо только внимательнее вопрос прочитать.

[dew]

Цитата: Сообщение от Viktor

Да это было "в далеком прошлом" и я об этом написал. Мне просто интересно было узнать про ту "видюху".
А по поводу CUDA актуально и об этом надо только внимательнее вопрос прочитать.

Я допускаю, что я что-то невнимательно.. Но у меня полно видюх, которые поддерживат только определенную CUDA API.. Как бы объяснить?
У меня есть например очень старый макбук и можно для него писать только на устаревшем API:

https://www.nvidia.com/en-us/drivers...5-0-24-driver/

У меня нет никаких проблем поставить поновее версию CUDA, тока работать то не будет - и вообще систему переклинит

[Burcontovk]

А какие настройки должны быть для длительного анализа позиции? Поставил сеть 611245 v0.28.2

[Viktor]

Цитата: Сообщение от Burcontovk

А какие настройки должны быть для длительного анализа позиции? Поставил сеть 611245 v0.28.2

У нас есть тема по настройкам Лилы и там есть чего почерпнуть для себя:
https://forchess.ru/showthread.php?t=1089

[Burcontovk]

Цитата: Сообщение от Viktor

У нас есть тема по настройкам Лилы и там есть чего почерпнуть для себя:
https://forchess.ru/showthread.php?t=1089

Есть, но очень древняя инфа и не то что нужно. Нужны конкретные настройки как в этой теме выше, но только не для блица а для длительного анализа позиции.

[svoitsl]

Цитата: Сообщение от Burcontovk

но только не для блица а для длительного анализа позиции.

ну вот такие были настройки в суперфинале прошлого сезона TCEC21 c TC 120'+10"

Цитата:

Backend demux
BackendOptions backendcuda-fp16,(gpu0),(gpu1),(gpu2),(gpu3)
CommandLineOptions --show-hidden
LogFile lc0.log
MaxPrefetch 160
MinibatchSize 896
MoveOverheadMs 1000
MovesLeftMaxEffect 0.02
MovesLeftSlope 0.002
NNCacheSize 50000000
Ponder false
Protocol uci
RamLimitMb 96000
SmartPruningMinimumBatches 300
SmartPruningQEffect 0.2
StrictTiming true
SyzygyPath /home/syzygy
Threads 2
TimeManager smooth(midpoint45.2,steepness5.93,init-tree-reuse0.52,max-tree-reuse0.73,tree-reuse-update-rate3.39,init-timeuse0.7,min-timeuse0.34,timeuse-update-rate5.51,max-move-budget0.42,init-piggybank0.09,per-move-piggybank0.12,max-piggybank-use0.94,max-piggybank-moves36.5)
UCI_ShowMovesLeft true
UCI_ShowWDL true
VerboseMoveStatstrue

[SergeyMZ]

svoitsl,

Настроечки - бомба! Спасибо.

[svoitsl]

Цитата: Сообщение от SergeyMZ

Настроечки - бомба! Спасибо.

ну тут они сделаны с учетом не хилого объема памяти и 4 GPU, поэтому кое какие настройки придется все равно поменять.
правильный расчет nncache тут
https://forchess.ru/showpost.php?p=162173&postcount=485

[Viktor]

v0.31.0-rc1
https://github.com/LeelaChessZero/lc0/releases

[Viktor]

v0.31.0-rc2
https://github.com/LeelaChessZero/lc0/releases

[Maratka]

Добрый день!

Хотелось бы узнать, есть ли тесты современного железа для Лилы?

Скажем:
RTX 4060 - xxx nps
RTX 3060 - yyy nps

ну и так далее по парам, т.е. 4070 против 3070, 4080 против 3080

Ну и отдельно для DX12 версий тесты, т.е. видеоплаты nVidia и DX12, и CUDA нужны, т.е. вот у меня сейчас RTX 3060, и она всего на где-то 10-15% медленнее в DX12 режиме, чем в CUDA режиме, возможно у 4xxx оно и наоборот стало!

Плюс, тесты Radeon'ов актуальных моделей, т.е. 6xxx и 7xxx, их по понятной причине только в режиме DX12. Опять же, это актуально, т.к. платы AMD весьма вкусные по своим спецификациям, скажем вполне возможно, что Radeon 7600XT будет быстрее, чем RTX 4060Ti для Лилы.

[Maratka]

Вышли новые драйвера nVidia.
Обещают существенный рост в производительности ИИ, правда только для карт RTX (и не очень понятно, каких, всех, или только последних 4xxx).

Проверил у себя - разницы нет.
Если кто-то может вдруг знает, как списаться с авторами Лилы, и уточнить у них этот момент, было бы хорошо.

https://3dnews.ru/1105200/posledniy-...poddergkoy-rtx

[DEEP_MIND]

А в чем смысл лилы, если вяленообразные на первых местах?
У нее сетка лучше обучена или что?
Тратить кучу бабла на видяху (+электропрожор) и ничего с этого не иметь ))

[Viktor]

Цитата: Сообщение от DEEP_MIND

А в чем смысл лилы, если вяленообразные на первых местах?
У нее сетка лучше обучена или что?
Тратить кучу бабла на видяху (+электропрожор) и ничего с этого не иметь ))

Лила достаточно сильна и по-прежнему позиционно играет не хуже, а порой и лучше Стокфиша. За 5-10 минут анализа она выдает анализ, который важен и ценен в адвансе. У меня было уже несколько партий, где Стокфиш ни черта не понимает, а Лила была права!

[DEEP_MIND]

Цитата: Сообщение от Viktor

У меня было уже несколько партий, где Стокфиш ни черта не понимает, а Лила была права!

Примеры бы... я у себя таких партий не обнаружил. Тоже проверял, но потом понял, что масло масляное. 1 в 1 всё идет. Или партии у меня такие простые, что и обычные движки всё видят. ))

[Viktor]

Цитата: Сообщение от DEEP_MIND

Примеры бы... я у себя таких партий не обнаружил. Тоже проверял, но потом понял, что масло масляное. 1 в 1 всё идет. Или партии у меня такие простые, что и обычные движки всё видят. ))

Такую партию я представлю. Она сыграна в 3 чемпионате России по шахматам 960. Мне бы хотелось её более подробно проанализировать, чтобы не оставить вопросы и чтобы активность на форуме стала большей.
Ранее в отдельных позициях я указывал на расхождения анализа в своих партиях в пользу Лилы.

[DEEP_MIND]

Отлично.
Кстати, в новых райзенах-5 будет NPU (нейросопроцессор) на 60 тфлопс. Интересно сможет ли какой-то движок заиспользовать его? А то в обычных повседневных задачах оно не надо, а деньги "уплочены"

[Maratka]

Цитата: Сообщение от DEEP_MIND

А в чем смысл лилы, если вяленообразные на первых местах?
У нее сетка лучше обучена или что?
Тратить кучу бабла на видяху (+электропрожор) и ничего с этого не иметь ))

На мой далеко не профессиональный взгляд, который я не меняю с момента появления Лилы как таковой, т.е. уже лет шесть как, ее плюс - очень сильно раскачанная сеть, которая суть есть книга, пусть и не обычная, к которым мы все привыкли за лет так двацать пять-тридцать, а "счетная", но это таки книга.

Как следствие, Лила шикарно рулит в дебютах, она тупо имеет статистику (чисто условно - что 1.h3 приводит либо к поражению, либо к ничьей, но не к выигрышу).

Ну а то, что она проигрывает SF'шу... ну во-первых, только ему и проигрывает, остальных она вполне себе обходит, причем с солидным отрывом, а во-вторых, проигрывает то она в т.н. "игровом режиме", а не в режиме анализа, а там есть много нюансов, например - таймменеджмент сильно влияет. Если он у SF'ша реализован лучше - движок и играть будет лучше, но это никак не влияет на анализ позиции в течении ночи.

И да, кстати говоря... SF стал играть лучше в т.ч. и потому, что его сети обучаются на оценках Лилы. Там конечно с нюансами, вида "позиции спокойные, без взятий, шахов, вилок", но тем не менее - как только команды договорились, что SF будет пользовать партии Лилы, так сразу он заметно прибавил. По мне это может значит только одно: оценка у Лилы более правильная.

[DEEP_MIND]

Цитата: Сообщение от Maratka

что его сети обучаются на оценках Лилы

по моему это уже давно не практикуется. сеть генерируется партиями самого стокфиша. может дебютная книга делается с партиями лилы, но не сама сеть.

[svoitsl]

v0.31.0-rc3
https://github.com/LeelaChessZero/lc0/releases

Цитата:

In this version:

The WDLDrawRateTarget option now accepts the value 0 (new default) to retain raw WDL values if WDLCalibrationElo is set to 0 (default).
Improvements to the verbose move stats if `WDLEvalObjectivity is used.
The centipawn score is displayed by default for old nets without WDL output.
Some build system improvements.

[Viktor]

0.31.0
https://github.com/LeelaChessZero/lc...es/tag/v0.31.0

В этой версии:

Серверные части blas, cuda, eigen, metal и onnx теперь поддерживают многоголовочную сетевую архитектуру и могут запускать сети BT3/BT4.
Обновлена ​​внутренняя модель Эло, чтобы она лучше соответствовала обычному Эло для игроков-людей.
Появился новый бэкэнд XLA, который использует компилятор OpenXLA для создания кода для выполнения нейронной сети. Подробности см . на https://github.com/LeelaChessZero/lc0/wiki/XLA-backend . Связаны с новыми параметрами leela2onnx для вывода формата HLO, который понимает XLA.
Существует значительно упрощенный интерфейс lc0, доступный путем переименования исполняемого файла в lc0simple.
Серверные программы теперь могут предлагать размер мини-пакета для поиска, это включено --minibatch-size=0(новое значение по умолчанию).
Если серверная часть cudnn обнаружит неподдерживаемую сетевую архитектуру, она переключится на серверную часть cuda.
Два новых варианта самостоятельной игры позволяют проводить турниры по ценности и политике. Турнир по политике использует политику одного узла для выбора хода для игры, в то время как турнир по ценности ищет все возможные ходы на глубине 1, чтобы выбрать тот, у которого лучшее q.
Хотя получить оценку политики одного узла легко ( go nodes 1с помощью uci), не было простого способа получить эффект от оценки только значения, поэтому эта --value-onlyопция была добавлена.
Реализованы параметры кнопки uci и добавлена ​​кнопка очистки дерева (как скрытая опция).
go mateДобавлена ​​поддержка опции uci .
Rescorer теперь можно построить на базе кода lc0, а не на отдельной ветке.
Была добавлена ​​отдельная реализация onnx Layernorm, чтобы обойти ошибку onnxruntime с DirectML — это требует некоторых накладных расходов, поэтому включено только для onnx-dml и может быть отключено с помощью alt_layernorm=falseопции backend.
--onnx2pytochВ leela2onnx была добавлена ​​опция для создания моделей, совместимых с pytorch .
Существует min_batchопция бэкэнда cuda, позволяющая уменьшить недетерминированность при работе с небольшими пакетами.
В onnx2leela были добавлены новые параметры для исправления экспортированных tf моделей onnx.
Серверная часть onnx теперь может быть построена для rocm amd.
Исправлена ​​ошибка, из-за которой эффект «Презрение» при оценке был слишком низким для сетей с изначально более высокой скоростью прорисовки.
Предел резкости WDL Rescale теперь можно настраивать с помощью --wdl-max-sскрытой опции.
Рабочие задачи поиска могут быть установлены автоматически: либо 0 для серверных частей процессора, либо до 4 в зависимости от количества ядер процессора. Это включено --task-workers=-1(новое значение по умолчанию).
Изменены параметры компиляции cuda для использования -arch=nativeили, -arch=all-majorесли конкретная версия не запрошена, с резервным вариантом для более старых cuda, которые не поддерживают эти параметры.
Обновлены сборки Android для использования openblas 0.3.27.
Теперь этот WDLDrawRateTargetпараметр принимает значение 0 (новое значение по умолчанию), чтобы сохранить необработанные значения WDL, если WDLCalibrationEloдля него установлено значение 0 (по умолчанию).
Улучшения в подробной статистике перемещений при использовании WDLEvalObjectivity.
Оценка сантипаунов отображается по умолчанию для старых сетей без вывода WDL.
Несколько различных исправлений и очисток кода.

[Maratka]

Спасибо.
Как я понимаю, сколько эти изменения дают в Elo разработчики умалчивают.
Т.е. как-то так исторически сложилось, что рост там измеряется только за счет смены сетей, а движок (скажем появление OpenCL, а потом и CUDA, а потом и поддержка FP16 в CUDA), что на каждой стадии привносило рост производительности в разы (конечно если это не примитивная встройка, а приличная внешняя видеоплата) ничегошеньки не делает, и никак не влияет?