Success-Case

Server ARM GIGABYTE Meningkatkan Pengembangan Solusi Lalu Lintas Cerdas Hingga 200%

Untuk mengirimkan pertanyaan: Hubungi bagian penjualan Ikuti GIGABYTE di Twitter: http://twitter.com/GIGABYTEServer Sebuah tim ilmuwan di NTU telah mengadopsi server G242-P32 GIGABYTE dan Arm HPC Developer Kit untuk menginkubasi "model arus lalu lintas presisi tinggi" - solusi lalu lintas cerdas yang dapat digunakan untuk menguji kendaraan otonom dan mengidentifikasi ruas jalan yang rawan kecelakaan untuk perbaikan. Solusi berbasis ARM menawarkan proyek peningkatan efisiensi 200% berkat arsitektur prosesor cloud-native yang "berbicara" dengan bahasa pemrograman yang sama dengan sensor di pinggir jalan, tingginya jumlah core CPU yang unggul dalam komputasi paralel, bersinergi dengan GPU yang memungkinkan komputasi heterogen, dan sertifikasi ISO yang membuat model yang dihasilkan mudah digunakan untuk pembuat mobil dan regulator pemerintah.
Dr. Chi-Sheng Shih, Profesor dan Direktur di Institut Pascasarjana Jaringan dan Multimedia di Universitas Taiwan (NTU), memimpin tim ilmuwan untuk mengembangkan “model arus lalu lintas presisi tinggi” jalan raya dan jalan raya Taiwan. Manfaat dari model seperti itu ada dua. Pertama, pengembang kendaraan otonom dan ADAS dapat melakukan simulasi untuk menguji kreasi mereka, sementara regulator pemerintah dapat menjalankan pemeriksaan keamanan sebelum memberi lampu hijau pada produk baru. Kedua, “bagian jalan rawan kecelakaan” yang ada - lokasi yang menunjukkan frekuensi dan tingkat keparahan kecelakaan kendaraan yang lebih tinggi - dapat diidentifikasi dengan cepat, sehingga dapat mengambil langkah-langkah pencegahan kecelakaan dan dapat menyelamatkan lebih banyak nyawa. Model ini telah diuji di jalan-jalan di Taiwan utara dan tengah. Tim sedang dalam pembicaraan dengan Tier IV, Inc., sebuah startup teknologi yang berbasis di Jepang, tentang memasukkan produk jadi ke dalam Autoware, proyek perangkat lunak open-source terkemuka di dunia untuk mengemudi secara otonom; ini akan membuka jalan bagi adopsi yang lebih luas dan kemungkinan komersialisasi.

Learn More:
《Glossary: What is ADAS?
Israeli Developer of Autonomous Vehicles Chose GIGABYTE Servers

Bagaimana Dr. Shih dan timnya mengembangkan model tersebut? Pertama, tiga atau empat paket sensor, masing-masing terdiri dari lidar dan tiga kamera, dipasang di sepanjang jalan sepanjang sekitar seratus hingga dua ratus meter. Selama setiap kelompok pengujian, sensor mengumpulkan data dari arus lalu lintas selama sekitar dua jam. Titik data meliputi jumlah kendaraan, kecepatan kendaraan, jarak antar setiap kendaraan, dan lainnya. Kemudian, data tersebut dibawa kembali ke lab komputer untuk diolah. Hasil akhirnya adalah model komputer yang sangat presisi yang dapat menunjukkan detail rumit tentang arus lalu lintas; ini adalah sejenis kembaran digital yang dapat digunakan untuk simulasi dan pemodelan mobilitas, yang merupakan komponen kunci dari solusi lalu lintas cerdas.《Glossary: What is Digital Twin?

“Tujuan kami adalah untuk melayani sebagai kendaraan otonom Qianliyan dan Shunfeng'er,” kata Dr. Shih, mengutip dua dewa dari mitologi Tiongkok yang dikenal dengan mata yang melihat jauh dan telinga yang bisa mendengar. Model komputer tidak hanya dapat meningkatkan akurasi pemosisian dan keamanan mobil self-driving, tetapi juga dapat digunakan untuk menganalisis dan menyempurnakan arus lalu lintas, yang bermanfaat untuk semua kendaraan, baik otonom maupun lainnya.

Pada tahun 2021, tim Dr. Shih menyambut anggota baru yang berharga: Developer Nvidia Arm HPC, platform perangkat keras dan perangkat lunak terintegrasi untuk membuat, mengevaluasi, dan membuat tolak ukur HPC, AI, dan aplikasi komputasi ilmiah. Inti dari solusi komprehensif ini adalah G242-P32 GIGABYTE Technology, Server GPU Seri-G yang ditenagai oleh Prosesor Ampere® Altra® tunggal berbasis ARM.

Learn More:
《Glossary: What is HPC?
《Glossary: What is AI?
《More information about GIGABYTE's GPU Servers
《More information about GIGABYTE's ARM Servers
The Advantages of ARM: From Smartphones to Supercomputers and Beyond

Kontribusinya terhadap proyek penelitian sangat luar biasa. Menurut perkiraan Dr. Shih, waktu pengembangan telah berkurang setidaknya setengahnya, yang merupakan peningkatan efisiensi sebesar 200%. Para ilmuwan telah menyebut solusi berbasis ARM GIGABYTE sebagai “multicooker pembelajaran mesin” -solusi lengkap yang dapat melatih AI, mengembangkan model komputer, mentransfer data, dan banyak lagi. Ini merupakan keuntungan nyata bagi kemajuan model arus lalu lintas, dan telah membuat pekerjaan tim jauh lebih mudah.《Glossary: What is Machine Learning?

Bagaimana G242-P32 GIGABYTE dan Arm HPC DevKit dapat mencapai semua ini? Empat manfaat utama dapat diringkas sebagai berikut:
1. Prosesor ARM adalah “cloud-native”, artinya mereka mengikuti arsitektur RISC yang sama dengan chip komputer yang digunakan di perangkat pinggir jalan.
2. CPU Ampere® Altra® memiliki jumlah core yang sangat banyak - hingga 80 dalam satu prosesor, sehingga sangat cocok untuk komputasi paralel.
3. DevKit dilengkapi dengan GPU NVIDIA® A100 ganda, yang melengkapi CPU melalui proses yang dikenal sebagai komputasi heterogen. Terlebih lagi, memori 8-channel 512G DDR4 menyediakan bandwidth yang diperlukan untuk menangani kecepatan transfer data yang tinggi.

4. Solusi ARM mematuhi standar keamanan ISO 26262, yang berarti model komputer yang dikembangkan dengan ARM dapat dengan mudah digunakan oleh perusahaan dan lembaga di industri otomotif.



Glossary:
What is RISC?
What is Core?
What is Parallel Computing?
What is GPU?
What is Heterogeneous Computing?
Manfaat #1: Prosesor ARM cloud-native berdasarkan arsitektur RISC
Paket sensor pinggir jalan menggunakan PC industri (IPC) yang berjalan pada prosesor ARM, yang mengikuti arsitektur set instruksi RISC (ISA, atau singkatnya arsitektur). Ini bukan hal yang luar biasa: karena konsumsi daya yang lebih rendah dan efisiensi energi yang lebih baik, prosesor ARM banyak digunakan oleh perangkat seluler dan edge, menjadikan ARM jenis chip komputer paling populer di masa ini. Namun, sebelum pengenalan Arm HPC DevKit, lab komputer di NTU menggunakan server yang didasarkan pada prosesor x86 konvensional, yang mengikuti arsitektur CISC. Hasil dari semua ini adalah bahwa tim harus menulis dua set kode - satu untuk perangkat pinggir jalan, satu untuk pusat data di rumah. Tidak perlu dikatakan, ini menghabiskan waktu yang berharga dan membuat pipeline hanya setengah seefisien mungkin.

Glossary:
What is Edge Computing?
What is CISC?
What is Data Center?
At the heart of the Arm HPC DevKit is the GIGABYTE G242-P32. This 2U GPU Server is powered by a single Ampere® Altra® Processor, which is a cloud-native ARM CPU that follows the same ISA as most mobile and edge devices. This drastically improves the efficiency of developing computer models or programs which can be used outside of conventional data centers—such as the roads and highways of Taiwan.
Arm HPC DevKit mengubah semua ini. Karena G242-P32 GIGABYTE berjalan pada prosesor ARM, hasil akhirnya adalah, IPC pinggir jalan yang digunakan untuk pengujian dan server yang digunakan untuk mengembangkan model berbicara "bahasa" yang sama! Tidak perlu lagi menulis dua set kode; kode RISC yang sama yang digunakan di lapangan dapat dimanfaatkan di pusat data. Terlebih lagi, karena produk jadi akan digunakan pada perangkat pinggir jalan berbasis ARM, ISA lingkungan pengembangan harus sesuai dengan lingkungan aplikasi.

“Kami menggunakan kompiler untuk menerjemahkan program kami dari sistem x86 asli ke sistem ARM baru, tetapi kami dapat menyelesaikan 90% hingga 95% transfer dalam waktu satu bulan,” kata Dr. Shih. “Solusi ARM baru telah sangat meningkatkan proses DevOps kami dan mengurangi setidaknya setengah dari waktu pengembangan kami.”
Manfaat #2: Jumlah core yang tinggi sangat ideal untuk komputasi paralel
Prosesor Ampere® Altra® soket tunggal di dalam G242-P32 memiliki keunggulan lain yang berbeda: prosesor ini memiliki jumlah core yang lebih tinggi dibanding biasanya, hingga 80 dalam satu CPU. Sebagai perbandingan, prosesor x86, prosesor top-line saat ini maksimal sekitar 64 core per prosesor. Memiliki beban kerja yang didistribusikan ke lebih banyak core yang lebih kecil dan lebih hemat energi adalah salah satu alasan mengapa ARM umumnya menawarkan kinerja per watt daya yang lebih baik. Ini merupakan game-changer untuk pengembangan "model arus lalu lintas presisi tinggi", karena mendapat manfaat substansial dari paralelisme tugas.

Dr. Shih menjelaskan: “Dalam waktu kira-kira dua jam untuk menyelesaikan serangkaian tes pinggir jalan, kami biasanya menghasilkan sekitar 360 gigabyte data mentah. Kami menjalankan dua belas program secara bersamaan dan menghubungkan ke lima puluh file terpisah untuk membandingkan, mengkalibrasi, dan mengkompilasi titik data. Sistem lama kami tidak memiliki cukup inti untuk mendukung ini, dan itu menyebabkan tim saya cukup pusing.”

Prosesor ARM memiliki keunggulan lain yang belum sempat digunakan oleh tim Dr. Shih, tetapi perlu disebutkan sebagai tambahan. Fitur ini dikenal sebagai “ARM big.LITTLE”. Ini adalah kombinasi dari core yang lebih lambat dan lebih hemat energi ("LITTLE") dengan inti yang berperforma tinggi dan intensif energi ("besar"). Akibatnya, konfigurasi ini memberi pengguna lebih banyak alat untuk dipilih untuk tugas yang berbeda, sehingga prosesor ARM dapat memberikan penghematan daya yang lebih baik tanpa mengorbankan kinerjanya sedikit pun.

Learn More:
What is a Server? A Tech Guide by GIGABYTE
Setting the Record Straight: What is HPC? A Tech Guide by GIGABYTE
Manfaat #3: GPU kuat dan memori bandwidth tinggi
Dalam komputasi, seperti halnya dalam kehidupan nyata, terkadang anda tidak dapat melakukannya sendiri. Tidak peduli seberapa kuat CPU, sedikit bantuan dari GPU (atau dalam hal ini, GPGPU) dapat memberikan kinerja yang benar-benar luar biasa. Untungnya, Arm HPC DevKits hadir sebagai standar dengan hingga dua kartu GPU NVIDIA® A100 PCIe Gen4. Arsitektur memori 8 saluran G242-P32, yang dapat mendukung hingga 512 gigabyte DDR4 SDRAM, melengkapi pengaturan.

Glossary:
What is GPGPU?
What is PCIe?
Data collected by roadside sensors are sent back to the NTU lab for comparison, calibration, and compilation. Dr. Shih’s team employs a method known as heterogeneous computing to achieve optimal synergy between the CPU and the GPUs, so they can develop the “high-precision traffic flow model” more efficiently.
Setelah data lapangan dikirim kembali ke lab komputer di kampus, CPU ARM dan GPU NVIDIA® diberikan tugas yang paling sesuai dengan kekuatannya. Prosesor ARM menangani kalibrasi dan perbandingan urutan, sedangkan GPU menangani input grafis. Hal ini dilakukan untuk memastikan data yang dikumpulkan oleh berbagai sensor - termasuk foto yang diambil oleh kamera dan titik awan yang dihasilkan oleh lidar - tepat sejajar satu sama lain, hingga milidetik. Tingkat kesalahannya hanya 50 hingga 100 milidetik (satu per dua puluh atau sepersepuluh detik) dapat sama dengan perbedaan beberapa sentimeter - dengan kata lain, perbedaan antara panggilan dekat dan tabrakan mematikan. Tidak ada ruang untuk kesalahan semacam ini dalam solusi lalu lintas cerdas, itulah sebabnya gambar yang diambil terkadang harus diidentifikasi ulang untuk melacak lintasan masing-masing kendaraan dengan benar - tugas lain yang menjadi keunggulan GPU.《Glossary: What is Point Cloud?

Sebelum melanjutkan, ada sedikit informasi tentang memori 8-channel 512G DDR4. Banyaknya data yang dibawa bolak-balik antara CPU dan GPU selama proses perbandingan. Sistem tim yang lebih tua tidak memiliki cukup memori untuk mengikutinya, sehingga para peneliti harus memecah data menjadi beberapa bagian yang lebih kecil, yang memakan waktu dan dianggap tidak efisien. Memiliki bandwidth memori yang sesuai dengan kecepatan komputasi prosesor adalah kuncinya: untuk menggunakan metafora yang berhubungan dengan mobil, armada pembalap Formula One hanya akan dapat melakukan banyak hal jika yang mereka miliki hanyalah jalan raya satu jalur. Peningkatan memori adalah cara lain Arm HPC DevKit mempercepat pengembangan "model arus lalu lintas presisi tinggi"..
Manfaat #4: Kepatuhan pada ISO 26262 membuat solusi ARM lebih mudah diterapkan
Terakhir, tetapi tidak kalah pentingnya, perlu dicatat bahwa produk ARM diarahkan untuk keamanan fungsional, sehingga mereka sengaja dirancang "di luar konteks" untuk memenuhi berbagai aplikasi terluas. Artinya, banyak solusi ARM yang memenuhi standar keamanan internasional secara langsung. Arm Ltd., kekuatan pendorong utama di balik teknologi ARM, berperan aktif dalam mendukung pelanggan dan produsen dalam proses sertifikasi perangkat berbasis ARM. Sehubungan dengan proyek tim NTU, setelah model komputer yang telah selesai difinalkan dan dikomersialkan, akan lebih mudah bagi pengguna akhir untuk menerapkannya, karena telah dikembangkan dengan solusi ARM yang mematuhi ISO 26262, standar internasional untuk fungsi keselamatan sistem kelistrikan dan/atau elektronika yang dipasang pada produksi serial kendaraan jalan.

GIGABYTE Technology dengan senang hati berkontribusi pada pengembangan solusi lalu lintas cerdas tim NTU melalui Arm HPC Developer Kit dan Server GPU G242-P32. Prosesor ARM, yang telah lama menjadi favorit perangkat seluler dan edge, muncul kembali di sektor server secara besar-besaran. Selain keunggulan yang tercantum di atas, prosesor ARM juga menawarkan TCO (total biaya kepemilikan) yang luar biasa, manajemen termal yang optimal, dan skalabilitas yang luar biasa - semua ini merupakan keuntungan yang dapat dimanfaatkan oleh pusat data di seluruh dunia. Hal ini sejalan dengan upaya GIGABYTE Technology untuk mengembangkan solusi inovatif untuk berbagai sektor vertikal, dengan harapan bahwa penemuan baru yang inovatif - seperti model arus lalu lintas presisi tinggi yang dapat dilihat sebagai kekuatan pendorong di belakang transportasi yang lebih cerdas dan lebih aman - akan segera menjadi kenyataan dan untuk membantu “Upgrade Your Life”.

Learn More:
《Glossary: What is Scalability?
How to Pick a Cooling Solution for Your Servers? A Tech Guide by GIGABYTE
Realtion Tags
Scalability
Edge Computing
HPC
Data Center
Machine Learning
Artificial Intelligence
GPU
Parallel Computing
ADAS
Point Cloud
Heterogeneous Computing
PCIe
GPGPU
Digital Twin
Core
CISC
RISC
WE RECOMMEND
RELATED ARTICLES
CSR and ESG in Action: GIGABYTE Helps NCKU Train Award-Winning Supercomputing Team

Success Case

CSR and ESG in Action: GIGABYTE Helps NCKU Train Award-Winning Supercomputing Team

GIGABYTE Technology is not only a leading brand in high-performance server solutions—it is also an active force for good when it comes to CSR and ESG activities. Case in point: in 2020, GIGABYTE provided four G482-Z50 servers to Taiwan’s Cheng Kung University. The servers were used to train a team of talented students, who went on to take first place in that year’s APAC HPC-AI Competition in Singapore. The parallel computing performance of the servers’ processors, the seamless connectivity between the servers, and the servers’ unrivalled reliability are the reasons why GIGABYTE servers are ideal for educating the next generation of supercomputing experts. GIGABYTE is happy to give back to society and contribute to human advancement through high tech solutions.
The Advantages of ARM: From Smartphones to Supercomputers and Beyond

Tech Guide

The Advantages of ARM: From Smartphones to Supercomputers and Beyond

Processors based on the ARM architecture, an alternative to the mainstream x86 architecture, is gradually making the leap from mobile devices to servers and data centers. In this Tech Guide, GIGABYTE Technology, an industry leader in high-performance server solutions, recounts how ARM was developed. We also explain the various benefits of ARM processors and recommend ARM servers for different sectors and applications.
Mengatur dengan Langsung Catatan: Apa itu HPC? Panduan Teknis oleh GIGABYTE

Tech Guide

Mengatur dengan Langsung Catatan: Apa itu HPC? Panduan Teknis oleh GIGABYTE

HPC: Supercomputing Menjadi Dapat Diakses dan Dapat Dicapai
What is Big Data, and How Can You Benefit from It?

Tech Guide

What is Big Data, and How Can You Benefit from It?

You may be familiar with the term, “big data”, but how firm is your grasp of the concept? Have you heard of the “5 V’s” of big data? Can you recite the “Three Fundamental Steps” of how to use big data? Most importantly, do you know how to reap the benefits through the use of the right tools? GIGABYTE Technology, an industry leader in high-performance server solutions, is pleased to present our latest Tech Guide. We will walk you through the basics of big data, explain why it boasts unlimited potential, and finally delve into the GIGABYTE products that will help you ride high on the most exciting wave to sweep over the IT sector.
Email Sales
Back to top