چون Transformer توالی را موازی پردازش میکند، باید جایگاه هر کلمه را بداند. Positional Encoding با اضافه کردن الگوهای سینوسی به ورودیها این جایگاه را مشخص میکند.
برای مشاهدهٔ ادامه، خرید کنید
دسترسی سریع و فوری
Positional Encoding چیست؟
AUتحریریه
۱۴۰۴/۰۷/۱۲6 دقیقه مطالعهراهنمای معماری Transformer و BERT
مقدمه
مدلهای Transformer پایهگذار نسل جدید هوش مصنوعی هستند. از ترجمه ماشینی تا ChatGPT، همه بر اساس همین معماری ساخته شدهاند. در این کتابچه یاد میگیری سازوکار Transformer، مکانیزم Attention و مدل معروف BERT چگونه کار میکنند.
فهرست
دسترسی سریع پس از خرید
دسترسی سریع پس از خرید