Server ARM GIGABYTE Meningkatkan Pengembangan Solusi Lalu Lintas Cerdas Hingga 200%

Dr. Chi-Sheng Shih, Profesor dan Direktur di Institut Pascasarjana Jaringan dan Multimedia di Universitas Taiwan (NTU), memimpin tim ilmuwan untuk mengembangkan “model arus lalu lintas presisi tinggi” jalan raya dan jalan raya Taiwan. Manfaat dari model seperti itu ada dua. Pertama, pengembang kendaraan otonom dan ADAS dapat melakukan simulasi untuk menguji kreasi mereka, sementara regulator pemerintah dapat menjalankan pemeriksaan keamanan sebelum memberi lampu hijau pada produk baru. Kedua, “bagian jalan rawan kecelakaan” yang ada - lokasi yang menunjukkan frekuensi dan tingkat keparahan kecelakaan kendaraan yang lebih tinggi - dapat diidentifikasi dengan cepat, sehingga dapat mengambil langkah-langkah pencegahan kecelakaan dan dapat menyelamatkan lebih banyak nyawa. Model ini telah diuji di jalan-jalan di Taiwan utara dan tengah. Tim sedang dalam pembicaraan dengan Tier IV, Inc., sebuah startup teknologi yang berbasis di Jepang, tentang memasukkan produk jadi ke dalam Autoware, proyek perangkat lunak open-source terkemuka di dunia untuk mengemudi secara otonom; ini akan membuka jalan bagi adopsi yang lebih luas dan kemungkinan komersialisasi.

Learn More:
《Glossary: What is ADAS?》
《Israeli Developer of Autonomous Vehicles Chose GIGABYTE Servers》

Bagaimana Dr. Shih dan timnya mengembangkan model tersebut? Pertama, tiga atau empat paket sensor, masing-masing terdiri dari lidar dan tiga kamera, dipasang di sepanjang jalan sepanjang sekitar seratus hingga dua ratus meter. Selama setiap kelompok pengujian, sensor mengumpulkan data dari arus lalu lintas selama sekitar dua jam. Titik data meliputi jumlah kendaraan, kecepatan kendaraan, jarak antar setiap kendaraan, dan lainnya. Kemudian, data tersebut dibawa kembali ke lab komputer untuk diolah. Hasil akhirnya adalah model komputer yang sangat presisi yang dapat menunjukkan detail rumit tentang arus lalu lintas; ini adalah sejenis kembaran digital yang dapat digunakan untuk simulasi dan pemodelan mobilitas, yang merupakan komponen kunci dari solusi lalu lintas cerdas.《Glossary: What is Digital Twin?》

“Tujuan kami adalah untuk melayani sebagai kendaraan otonom Qianliyan dan Shunfeng'er,” kata Dr. Shih, mengutip dua dewa dari mitologi Tiongkok yang dikenal dengan mata yang melihat jauh dan telinga yang bisa mendengar. Model komputer tidak hanya dapat meningkatkan akurasi pemosisian dan keamanan mobil self-driving, tetapi juga dapat digunakan untuk menganalisis dan menyempurnakan arus lalu lintas, yang bermanfaat untuk semua kendaraan, baik otonom maupun lainnya.

Pada tahun 2021, tim Dr. Shih menyambut anggota baru yang berharga: Developer Nvidia Arm HPC, platform perangkat keras dan perangkat lunak terintegrasi untuk membuat, mengevaluasi, dan membuat tolak ukur HPC, AI, dan aplikasi komputasi ilmiah. Inti dari solusi komprehensif ini adalah G242-P32 GIGABYTE Technology, Server GPU Seri-G yang ditenagai oleh Prosesor Ampere® Altra® tunggal berbasis ARM.

Learn More:
《Glossary: What is HPC?》
《Glossary: What is AI?》
《More information about GIGABYTE's GPU Servers》
《More information about GIGABYTE's ARM Servers》
《The Advantages of ARM: From Smartphones to Supercomputers and Beyond》

Kontribusinya terhadap proyek penelitian sangat luar biasa. Menurut perkiraan Dr. Shih, waktu pengembangan telah berkurang setidaknya setengahnya, yang merupakan peningkatan efisiensi sebesar 200%. Para ilmuwan telah menyebut solusi berbasis ARM GIGABYTE sebagai “multicooker pembelajaran mesin” -solusi lengkap yang dapat melatih AI, mengembangkan model komputer, mentransfer data, dan banyak lagi. Ini merupakan keuntungan nyata bagi kemajuan model arus lalu lintas, dan telah membuat pekerjaan tim jauh lebih mudah.《Glossary: What is Machine Learning?》

Bagaimana G242-P32 GIGABYTE dan Arm HPC DevKit dapat mencapai semua ini? Empat manfaat utama dapat diringkas sebagai berikut:
1. Prosesor ARM adalah “cloud-native”, artinya mereka mengikuti arsitektur RISC yang sama dengan chip komputer yang digunakan di perangkat pinggir jalan.
2. CPU Ampere® Altra® memiliki jumlah core yang sangat banyak - hingga 80 dalam satu prosesor, sehingga sangat cocok untuk komputasi paralel.
3. DevKit dilengkapi dengan GPU NVIDIA® A100 ganda, yang melengkapi CPU melalui proses yang dikenal sebagai komputasi heterogen. Terlebih lagi, memori 8-channel 512G DDR4 menyediakan bandwidth yang diperlukan untuk menangani kecepatan transfer data yang tinggi.

4. Solusi ARM mematuhi standar keamanan ISO 26262, yang berarti model komputer yang dikembangkan dengan ARM dapat dengan mudah digunakan oleh perusahaan dan lembaga di industri otomotif.



Glossary:
《What is RISC?》
《What is Core?》
《What is Parallel Computing?》
《What is GPU?》
《What is Heterogeneous Computing?》

Paket sensor pinggir jalan menggunakan PC industri (IPC) yang berjalan pada prosesor ARM, yang mengikuti arsitektur set instruksi RISC (ISA, atau singkatnya arsitektur). Ini bukan hal yang luar biasa: karena konsumsi daya yang lebih rendah dan efisiensi energi yang lebih baik, prosesor ARM banyak digunakan oleh perangkat seluler dan edge, menjadikan ARM jenis chip komputer paling populer di masa ini. Namun, sebelum pengenalan Arm HPC DevKit, lab komputer di NTU menggunakan server yang didasarkan pada prosesor x86 konvensional, yang mengikuti arsitektur CISC. Hasil dari semua ini adalah bahwa tim harus menulis dua set kode - satu untuk perangkat pinggir jalan, satu untuk pusat data di rumah. Tidak perlu dikatakan, ini menghabiskan waktu yang berharga dan membuat pipeline hanya setengah seefisien mungkin.

Glossary:
《What is Edge Computing?》
《What is CISC?》
《What is Data Center?》

Arm HPC DevKit mengubah semua ini. Karena G242-P32 GIGABYTE berjalan pada prosesor ARM, hasil akhirnya adalah, IPC pinggir jalan yang digunakan untuk pengujian dan server yang digunakan untuk mengembangkan model berbicara "bahasa" yang sama! Tidak perlu lagi menulis dua set kode; kode RISC yang sama yang digunakan di lapangan dapat dimanfaatkan di pusat data. Terlebih lagi, karena produk jadi akan digunakan pada perangkat pinggir jalan berbasis ARM, ISA lingkungan pengembangan harus sesuai dengan lingkungan aplikasi.

“Kami menggunakan kompiler untuk menerjemahkan program kami dari sistem x86 asli ke sistem ARM baru, tetapi kami dapat menyelesaikan 90% hingga 95% transfer dalam waktu satu bulan,” kata Dr. Shih. “Solusi ARM baru telah sangat meningkatkan proses DevOps kami dan mengurangi setidaknya setengah dari waktu pengembangan kami.”

Prosesor Ampere® Altra® soket tunggal di dalam G242-P32 memiliki keunggulan lain yang berbeda: prosesor ini memiliki jumlah core yang lebih tinggi dibanding biasanya, hingga 80 dalam satu CPU. Sebagai perbandingan, prosesor x86, prosesor top-line saat ini maksimal sekitar 64 core per prosesor. Memiliki beban kerja yang didistribusikan ke lebih banyak core yang lebih kecil dan lebih hemat energi adalah salah satu alasan mengapa ARM umumnya menawarkan kinerja per watt daya yang lebih baik. Ini merupakan game-changer untuk pengembangan "model arus lalu lintas presisi tinggi", karena mendapat manfaat substansial dari paralelisme tugas.

Dr. Shih menjelaskan: “Dalam waktu kira-kira dua jam untuk menyelesaikan serangkaian tes pinggir jalan, kami biasanya menghasilkan sekitar 360 gigabyte data mentah. Kami menjalankan dua belas program secara bersamaan dan menghubungkan ke lima puluh file terpisah untuk membandingkan, mengkalibrasi, dan mengkompilasi titik data. Sistem lama kami tidak memiliki cukup inti untuk mendukung ini, dan itu menyebabkan tim saya cukup pusing.”

Prosesor ARM memiliki keunggulan lain yang belum sempat digunakan oleh tim Dr. Shih, tetapi perlu disebutkan sebagai tambahan. Fitur ini dikenal sebagai “ARM big.LITTLE”. Ini adalah kombinasi dari core yang lebih lambat dan lebih hemat energi ("LITTLE") dengan inti yang berperforma tinggi dan intensif energi ("besar"). Akibatnya, konfigurasi ini memberi pengguna lebih banyak alat untuk dipilih untuk tugas yang berbeda, sehingga prosesor ARM dapat memberikan penghematan daya yang lebih baik tanpa mengorbankan kinerjanya sedikit pun.

Learn More:
《What is a Server? A Tech Guide by GIGABYTE》
《Setting the Record Straight: What is HPC? A Tech Guide by GIGABYTE》

Dalam komputasi, seperti halnya dalam kehidupan nyata, terkadang anda tidak dapat melakukannya sendiri. Tidak peduli seberapa kuat CPU, sedikit bantuan dari GPU (atau dalam hal ini, GPGPU) dapat memberikan kinerja yang benar-benar luar biasa. Untungnya, Arm HPC DevKits hadir sebagai standar dengan hingga dua kartu GPU NVIDIA® A100 PCIe Gen4. Arsitektur memori 8 saluran G242-P32, yang dapat mendukung hingga 512 gigabyte DDR4 SDRAM, melengkapi pengaturan.

Glossary:
《What is GPGPU?》
《What is PCIe?》

Setelah data lapangan dikirim kembali ke lab komputer di kampus, CPU ARM dan GPU NVIDIA® diberikan tugas yang paling sesuai dengan kekuatannya. Prosesor ARM menangani kalibrasi dan perbandingan urutan, sedangkan GPU menangani input grafis. Hal ini dilakukan untuk memastikan data yang dikumpulkan oleh berbagai sensor - termasuk foto yang diambil oleh kamera dan titik awan yang dihasilkan oleh lidar - tepat sejajar satu sama lain, hingga milidetik. Tingkat kesalahannya hanya 50 hingga 100 milidetik (satu per dua puluh atau sepersepuluh detik) dapat sama dengan perbedaan beberapa sentimeter - dengan kata lain, perbedaan antara panggilan dekat dan tabrakan mematikan. Tidak ada ruang untuk kesalahan semacam ini dalam solusi lalu lintas cerdas, itulah sebabnya gambar yang diambil terkadang harus diidentifikasi ulang untuk melacak lintasan masing-masing kendaraan dengan benar - tugas lain yang menjadi keunggulan GPU.《Glossary: What is Point Cloud?》

Sebelum melanjutkan, ada sedikit informasi tentang memori 8-channel 512G DDR4. Banyaknya data yang dibawa bolak-balik antara CPU dan GPU selama proses perbandingan. Sistem tim yang lebih tua tidak memiliki cukup memori untuk mengikutinya, sehingga para peneliti harus memecah data menjadi beberapa bagian yang lebih kecil, yang memakan waktu dan dianggap tidak efisien. Memiliki bandwidth memori yang sesuai dengan kecepatan komputasi prosesor adalah kuncinya: untuk menggunakan metafora yang berhubungan dengan mobil, armada pembalap Formula One hanya akan dapat melakukan banyak hal jika yang mereka miliki hanyalah jalan raya satu jalur. Peningkatan memori adalah cara lain Arm HPC DevKit mempercepat pengembangan "model arus lalu lintas presisi tinggi"..

Terakhir, tetapi tidak kalah pentingnya, perlu dicatat bahwa produk ARM diarahkan untuk keamanan fungsional, sehingga mereka sengaja dirancang "di luar konteks" untuk memenuhi berbagai aplikasi terluas. Artinya, banyak solusi ARM yang memenuhi standar keamanan internasional secara langsung. Arm Ltd., kekuatan pendorong utama di balik teknologi ARM, berperan aktif dalam mendukung pelanggan dan produsen dalam proses sertifikasi perangkat berbasis ARM. Sehubungan dengan proyek tim NTU, setelah model komputer yang telah selesai difinalkan dan dikomersialkan, akan lebih mudah bagi pengguna akhir untuk menerapkannya, karena telah dikembangkan dengan solusi ARM yang mematuhi ISO 26262, standar internasional untuk fungsi keselamatan sistem kelistrikan dan/atau elektronika yang dipasang pada produksi serial kendaraan jalan.

GIGABYTE Technology dengan senang hati berkontribusi pada pengembangan solusi lalu lintas cerdas tim NTU melalui Arm HPC Developer Kit dan Server GPU G242-P32. Prosesor ARM, yang telah lama menjadi favorit perangkat seluler dan edge, muncul kembali di sektor server secara besar-besaran. Selain keunggulan yang tercantum di atas, prosesor ARM juga menawarkan TCO (total biaya kepemilikan) yang luar biasa, manajemen termal yang optimal, dan skalabilitas yang luar biasa - semua ini merupakan keuntungan yang dapat dimanfaatkan oleh pusat data di seluruh dunia. Hal ini sejalan dengan upaya GIGABYTE Technology untuk mengembangkan solusi inovatif untuk berbagai sektor vertikal, dengan harapan bahwa penemuan baru yang inovatif - seperti model arus lalu lintas presisi tinggi yang dapat dilihat sebagai kekuatan pendorong di belakang transportasi yang lebih cerdas dan lebih aman - akan segera menjadi kenyataan dan untuk membantu “Upgrade Your Life”.

Learn More:
《Glossary: What is Scalability?》
《How to Pick a Cooling Solution for Your Servers? A Tech Guide by GIGABYTE》