کدت را بنویس
همان Python که میشناسی، با کتابخانههای مورد علاقهات. محیط آماده، بدون درگیری با نصب درایور و CUDA.
@app.function(gpu="H100")
def inference(prompt):
return model.generate(prompt)یک مسیر ساده برای اجرای هوش مصنوعی: محیطت را تعریف کن، GPU را انتخاب کن و بگذار منابع با درخواستهایت رشد کنند.
از کد پایتون تا اجرای GPUهمان Python که میشناسی، با کتابخانههای مورد علاقهات. محیط آماده، بدون درگیری با نصب درایور و CUDA.
@app.function(gpu="H100")
def inference(prompt):
return model.generate(prompt)از استنتاج سبک تا آموزش مدلهای بزرگ؛ منابع متناسب با کار تو تخصیص پیدا میکنند.
image = (helra.Image.debian_slim()
.pip_install("torch", "transformers"))
@app.function(gpu="H100", image=image)با هر درخواست، ظرفیت رشد میکند. وقتی کاری نیست، منابع به صفر میرسند و هزینه GPU بیکار هم صفر است.
$ helra deploy app.py
✓ Environment built
✓ Function deployed
→ Autoscaling enabledمحیطهای آماده برای ابزارهایی که هر روز استفاده میکنی. وابستگیها و نسخههای پروژهات را تعریف کن و روی GPU اجرا بگیر.
import helrafrom transformers import pipeline app = helra.App("my-first-model")image = helra.Image.debian_slim().pip_install( "torch", "transformers", "accelerate") @app.function(gpu="H100", image=image)def generate(prompt: str): model = pipeline("text-generation", model="Qwen/Qwen2.5-7B-Instruct", device="cuda") return model(prompt, max_new_tokens=256) @app.local_entrypoint()def main(): print(generate.remote("Hello, Helra!"))مدلهای زبانی، چتباتهای فارسی و سرویسهای استنتاج را بدون مدیریت دائمی سرور اجرا کن. با API و SDK هلرا، مدل را به محصولت متصل کن.
مدل را با دادههای خودت آموزش بده و فاینتیون کن. محیط اجرا و منابع پردازش را متناسب با پروژه انتخاب کن.
پردازش دستهای تصویر، متن و صدا با منابعی که متناسب با حجم کار افزایش مییابند. هلرا مدیریت صف و مقیاسپذیری را برایت انجام میدهد.
ترافیک را تغییر بده و مقیاسپذیری را ببین. وقتی درخواستها به صفر میرسند، منابع بیکار آزاد میشوند.
برآورد هزینههامنابع با ترافیک رشد میکنند و با پایان درخواستها به صفر میرسند.
از ایده تا اجرای مدل، با GPU متناسب با نیازت پیش برو.