Валидация

Для проверки корректности работы serving-скрипта можно воспользоваться Jupyter Server c GPU (при создании Jupyter Server в Environments выберите тип с GPU). Последовательность действий пользователя следующая:

  1. В Jupyter Notebook выполните строку:

    pip install kfserving
    
  2. Перейдите в терминал Jupyter Notebook (New → Terminal) и исполните скрипт:

    python myserving-script.py
    

    где myserving-script — имя вашего скрипта.

  3. В результате сервис развернется в данном Jupyter Server (на порту 8080). Вы сможете проверить валидность скрипта, а также корректность ответов, отправляя запросы внутри этого сервера локально.