mino28 님의 블로그

1. 딥러닝 모델 서빙딥러닝 모델 서빙(DL Model Serving)은 학습된 머신러닝 모델을 실시간 또는 비실시간으로 애플리케이션에서 사용할 수 있도록 배포하고, 입력 데이터에 대한 예측을 제공하는 프로세스를 말합니다. 이를 위해 모델은 주로 REST API, gRPC, 혹은 WebSocket 같은 네트워크 인터페이스를 통해 호출될 수 있는 상태로 배포됩니다. 모델 서빙 시스템은 입력 데이터를 전처리하고 모델에 전달한 후, 출력 결과를 후처리하여 클라이언트에 반환하는 과정을 자동화하며, 일반적으로 안정성, 확장성, 낮은 지연 시간을 보장하도록 설계됩니다. 2. 손글씨 도형 분류하기 shape_classifier.py 로 저장import torchimport torch.nn as nnimport to..

1. Gradio머신러닝 모델을 간단히 웹 애플리케이션 형태로 배포할 수 있게 해주는 파이썬 라이브러리입니다. 이를 통해 사용자는 인터랙티브 웹 인터페이스를 통해 모델을 테스트하고 공유할 수 있습니다. Gradio는 머신러닝 엔지니어, 데이터 과학자, 연구자들이 복잡한 웹 개발 지식 없이도 직관적인 UI를 생성할 수 있도록 설계되었습니다. 모델의 입력과 출력을 정의하면 Gradio가 자동으로 웹 기반 인터페이스를 생성하며, 이를 로컬에서 실행하거나 웹에 배포할 수 있습니다. pip install gradio import gradio as grwith gr.Blocks() as demo: gr.Markdown("# 안녕하세요") gr.Markdown("## 여기는 제목을 입력합니다") gr..