Arm System-on-Chip (SOC) غواصی عمیق: Edge AI و پارچه انسجام

🏗 معماری سیستم بازوی روی تراشه (SOC) توضیح داده شده است

نمودار بعدی مربوط به معماری اصلی نمودار معماری ARM SOC ، یک طراحی کامل مدرن از سیستم مبتنی بر بازو را تشریح می کند ، که برای Edge AI و محاسبات ناهمگن بهینه شده است. این معماری اساس تلفن های هوشمند مدرن ، دوربین های امنیتی بالا و سیستم های خودمختار است.

بیایید لایه طراحی را بر اساس لایه بشکنیم:

1) معماری با یک نگاه

پنج لایه:

1. هواپیمای کنترل (Cortex-A Clusters ، GIC ، PMU)
2. صفحه داده ها (NPU ، GPU ، ISP ، VPU)
3. زیر سیستم حافظه (L1/L2/LLC ، TLB ، MC + DRAM)
4. ماده ای برای اتصال و انسجام (Chi/Ace ، Filters Snoop ، QoS)
5. پارچه I/O برای ترجمه (SMMU ، streamids ، PCI/USB/Display/Network)

مدل ذهنی: cpu = ارکستر (کنترل) ، شتاب دهنده ها = عضله (داده ها). پردازنده کار را ایجاد می کند. شتاب دهنده ها آن را می شکنند. ماده همه چیز را منسجم و به موقع حفظ می کند.

2) هواپیمای کنترل (بالا ، آبی روشن)

آنچه در اینجا زندگی می کند

• خوشه های بازوی Cortex-A CPU (به عنوان مثال 4 هسته) خصوصی L1i/l1d و مشترک L2 در خوشه
• شخص (کنترل کننده وقفه عمومی) برای مسیریابی/اولویت وقفه دستگاه.
• PMU (واحد نظارت بر عملکرد) برای پیشخوان های سیلیکون (عبور حافظه نهان ، شکاف TLB ، شاخه ها ، چرخه ها).

چرا مهم است

• شتاب دهنده های سیستم عامل/سرپرست و ارکسترات را انجام می دهد.
• استثنائات/IRQ ؛ QoS ، پارتیشن های حافظه نهان ، کارت های SMMU.
• PMU سرم تنظیم واقعی شماست.

نقش: جهان را پیکربندی کنید. بالابر سنگین درست نکنید.

3) هواپیمای داده (وسط چپ ، سبز روشن)

موتورهای محاسباتی

• NPU (AI Accelerator): موتورهای Gemm/Convolution برای نتیجه گیری محلی (به عنوان مثال ، باز شدن شی).
• GPU: گرافیک + GPGPU برای رابط کاربری ، 3D ، سایه بان ، پس از پردازش.
• ISP: تصویر خط لوله (Demosais ، Denos ، نقشه تن ، قرار گرفتن در معرض خودکار/تمرکز).
• VPU: رمزگذاری/رمزگشایی HW (H.264/H.265/AV1) برای ضبط/جریان.

یک اصل اساسی طراحی

• کنترل/جداسازی داده ها: CPU مدل و بافر را فراهم می کند. NPU/GPU/ISP/VPU در پهنای باند بالا و تکمیل سیگنال اجرا می شود.

4) زیر سیستم حافظه (وسط راست ، زرد روشن)

سلسله مراتب

• L1 (هر هسته ، 32-64 کیلوبایت kb ، 4 چرخه): سریعترین ، ریز.
• L2 (در هر خوشه ، 256 kb-2 مگابایت ، 12 چرخه).
• LLC/L3 (به اشتراک گذاشته شده ، 4-16 مگابایت ، چرخه 40 پوند).
• درام (GBS ، چرخه 100-200 پوند).

تقسیم LLC (توصیه می شود)

TLB و صفحات عظیم

• TLB Cash va → Pa. ماشه صفحات (100 چرخه) را عبور دهید.
• برای مجموعه داده های بزرگ ، استفاده کنید 2 مگابایت صفحات عظیم برای کاهش چشمگیر فشار TLB.

راه دسترسی: CPU → TLB → L1 → L2 → LLC → DRAM (مدار کوتاه در اولین ضربه).

5) همسر همبستگی و انسجام (مرکز ، مرجان سبک)

پارچه qi/ace

• بافت بالا و منسجم که معاملات را هدایت می کند و انسجام حافظه پنهان را از طریق آن اعمال می کند مسا/موسیحرف

انسجام 101

فیلتر Snoop

• این خطوط خط را ردیابی می کند تا شما فقط از حافظه نهان مربوطه خارج شوید (ترافیک و قدرت را کاهش می دهد).

مدیر QOS

axi (غیر مدفوع)

• برای DMA/I/O ، که نیازی به هماهنگی HW ندارند (به عنوان مثال ، مقدار دوربین).

6) پارچه ترجمه I/O (پایین ، اسطوخودوس)

smmu (iommu)

• حافظه مجازی در سطوح سطح + جداسازی با مرحله 1 (سیستم عامل) و مرحله 2 (Hypervizer) ترجمه ها.
• خیابان انتخاب کدام ترجمه/مجوزها برای اعمال ؛ از Rogue DMA در حافظه اصلی جلوگیری می کند.

محیط زیست

• عکسبرداری (nvme ، nics) ، USB. ، نمایش (HDMI/DP). ، شبکه (اترنت/Wi-Fi).

7) پیاده روی با جریان داده

جریان A: دسترسی به حافظه CPU (توافق شده)

1. پردازنده بار را صادر می کند (x = array[i]).
2. TLB VA → PA را ترجمه می کند (در صفحه خانم قدم بزنید).
3. کاوش L1 → L2 → LLC؛ بازگشت در اولین ضربه ؛ در غیر این صورت درامحرف
4. داده های حباب از طریق سلسله مراتب حافظه نهان به رجیسترها باز می گردند.

مشاوره: پیشخوان های PMU اعتبار تأخیر و سطح سطح را تأیید می کنند.

جریان B: نتیجه گیری EI با DMA منسجم

1. CPU یک مدل را بارگیری می کند (پیش از آن به پارتیشن LLC برای NPU).
2. برنامه های پردازنده NPU: ورودی در 0x1000 ؛ یک مدل X را تکمیل کنیدحرف
3. مشکلات NPS Ace-lite (منسجم) DMA خواندن
4. CPU CACHE CPU پارچه ای ، Probes LLC ؛ در صورت لزوم به درام نگاه می کند.
5. محاسبه NPU (به عنوان مثال 8 میلی ثانیه هدف).
6. NPU نتایج توافق را می نویسد. انسجام خطوط پردازنده راکد را باطل می کند.
7. npu irq از طریق شخص cpu بلافاصله نتایج جدید را می خواند.

سود: هیچ نرم افزاری نرم افزاری وجود ندارد. تأخیر کمتر برای مصرف نتایج.

جریان C: ضبط دوربین با DMA ناهماهنگ

1. ISP یک قاب را پردازش می کند – DMA را شروع می کند VA 0x5000حرف
2. SMMU چک خیاباناستفاده از مرحله 1/2 ترجمه → PA 0xABCD.
3. QoS اولویت اصلی دوربین را فراهم می کند.
4. تبر حافظه پنهان CPU را بنویسید درامحرف
5. IRQ → معلولیت های CPU منطقه نقدی مربوطه (همگام سازی دستی).
6. CPU (یا NPU) قاب را مصرف می کند.

سازش: غیر متفکر = قدرت سریعتر/کمتر اما مستلزم SW SYNC ؛ منسجم = ساده تر اما تأخیر و قدرت اسنوپ را اضافه می کند.

جریان D: QoS تحت اختلاف

• بارها: نمایش (4K60). ، نتیجه گیری NPU. ، گردآوری پردازنده. ، GPU ارائهحرف
• تعیین اولویت ها و پهنای باند (به عنوان مثال ، نمایش 25 گیگابایت در ثانیه ، NPU 20 گیگابایت در ثانیه).
• سهم LLC مجموعه های کار را برای نمایش/NPU ذخیره می کند.

هدف: آنها به صفحه نمایش و نتیجه گیری SLO پاسخ می دهند ، حتی اگر پهنای باند GPU کاهش یابد.

8) مدل های طراحی و دکمه های تنظیم

8.1 بخش LLC (برای SLO لازم است)

• چاپ های مهم پین (مدل AI ، بافرهای قاب) برای حفظ تأخیرهای دم مسطح.
• ردیابی PMU: LLC با پارتیشن بازدیدها/از دست می دهد. تاخیر 95p/99p را تماشا کنید.

8.2 منسجم در مقابل غیر CO -CHENT DMA (ماتریس برای انتخاب)

8.3 فشار TLB را کاهش دهید

• استفاده کردن 2 مگابایت صفحات عظیم برای بافرهای بزرگ (فیلم ، تنزورها).
• نتیجه: گذر کمتر از TLB ، پیاده روی صفحات کمتر ، سود قابل اندازه گیری + قدرت.

8.4 دکمه های جغد -knob

• پشت سر هم (به نفع 128-256 b در هنگام قانونی).
• تراز (از عبور از محدوده خط حافظه نهان خودداری کنید).
• قاشق غذاخوری (تشخیص جریان/مرحله برای دسترسی به مدل و قاب).

9) سازش PPA (عملکرد ، قدرت ، منطقه)

شما هر سه را نمی گیرید. برای انتخاب نکته مناسب از SLO استفاده کنید.

راه حل مثال: هدف پایان

• 8 MB LLC → 95 ~ فرکانس ضربه → 7 ms ms ؛ قدرت/منطقه بالاترحرف
• 4 MB LLC → 85 ٪ نرخ تأثیر → 9 ms ms ؛ قدرت 33 ٪ ، مساحت 50 ٪حرف
  4 MB را انتخاب کنید اگر به SLO پاسخ دهد و باتری/بم را ذخیره کند.

10) اندازه گیری و اعتبار سنجی (چه چیزی را برای اولین بار ثبت کنید)

PMU سریع شروع (شبه C):

// Count L2 misses during inference
pmu_configure(PMU_L2_CACHE_MISS);
run_ai_inference();
uint64_t l2m = pmu_read();
printf("L2 misses: %llu\n", (unsigned long long)l2m);

میکروب

• پله های نهان: L1/L2/LLC/DRAM LOAD/فروشگاه.
• TLB از دست دادن تأخیر: اندازه صفحه دریچه گاز برای مجبور کردن حذف.
• پهنای باند مقاوم: MEMCPY/TRIADS LONG MIXED R/W.
• استرس انسجام: خطوط حافظه پنهان پینگ پنگ در هسته/عوامل.
• تمرینات QoS: پارچه بیش از حد امضای ؛ ضمانت نامه + تأخیر در صف را بررسی کنید.

به نظر می رسد “خوب” چگونه است

• رعایت SLO برای تأخیر 95p/99p.
• تاریخ های پایدار LLC برای پارتیشن های رزرو شده.
• TLB از دست رفته درصد در ترافیک واقعی کم است.
• نمایشگر هرگز کارکنان را حتی در استرس قرار نمی دهد.
• قدرت با بودجه در حالت پایدار و قله ها تراز می شود.

11) امنیت و انزوا (بعداً به آن ضربه نزنید)

• SMMU با هر خط دامنه ها ؛ آدرس کمترین امتیاز.
• مرحله 2 ترجمه هایی که توسط Hypervisor برای چند محافظ کنترل می شوند.
• مطمئناً مسیر مسیر: تنظیمات GIC را برای مسیرهای EL2/EL3 بررسی کنید.
• به روزرسانی سیستم عامل (ROM → BL → سیستم عامل ایمن).

12) مونتاژ: نمونه دوربین AI Edge

• NPU بدست آوردن نتیجه گیری در مورد مدل کشف.
• ISP قاب های 4K را ضبط می کند. نمایش حاوی 60 فریم در ثانیه است.
• سهم LLC از بافرهای فریم از مدل + محافظت می کند.
• قوس یک نوار فرکانس برای نمایش/NPU را تضمین می کند. GPU بهترین است.
• SMMU یک دوربین/NIC DMA را جدا می کند.
• قدرت در زیر باقی مانده است 5 پوند با اندازه حافظه نهان بهینه و برخی از جریان های جریان.

13) لیست کنترل برای تبدیل خود

• [ ] تعیین SLO (تأخیر ، FPS ، سوسو زدن) بار کار.
• [ ] تخصیص دادن پارتیشن های LLC برای عوامل بحرانی
• [ ] انتخاب کردن موافق در مقابل نادان DMA در راه.
• [ ] کارت صفحات عظیم برای بافرهای بزرگ و گرم.
• [ ] تنظیم کردن اولویت های QOS و ضمانت نوار فرکانس ؛ اندازه گیری بار
• [ ] ابزار PMU؛ دروازه به 95p/99p برنده می شود ، نه متوسط.
• [ ] با میکروب مارک ها + مخلوط های Applice را تأیید کنید ، نه فقط یک بار.
• [ ] بسته شدن SMMU سیاست ها و وقفه در اوایل مسیر.

افکار پایانی

این مدل SOC HAND –ارکسترهای CPU ، شتاب دهنده ها انجام می دهند ، بافت ها آن را منسجم و منصفانه نگه می دارند– آنچه دستگاه های مدرن را در لبه تغذیه می کند. اگر SLOS ، حافظه نهان پارتیشن را قفل کنید ، حالت های DMA را با عاقلانه انتخاب کرده و با بخیه های Rence PMU اعتبار می دهید ، سیستم هایی را ارسال می کنید که در اختلافات دنیای واقعی سریع ، قدرتمند و سالم هستند.