Bởi Francesco Ongaro, Piero Ciffolillo, Alessandro Dovico, Matteo Lanati, Marcello Tava, and Toaha Umar ngày 4 tháng 2 năm 2025 in Amazon QuickSight, Business Intelligence, Customer Solutions, Generative AI, Serverless
Đây là một guest post được viết bởi Francesco Ongaro, Piero Ciffolillo, Alessandro Dovico và Matteo Lanati của Storm Reply và Marcello Tava và Toaha Umar của BMW Group.
Business Intelligence (BI) và trực quan hóa dữ liệu đóng vai trò quan trọng trong việc đưa ra quyết định nhanh chóng và sáng suốt. Chúng cung cấp thông tin chi tiết và khả năng quan sát các quy trình, hiệu suất, chi phí và hành vi khách hàng, giúp doanh nghiệp thích ứng nhanh với những thay đổi của thị trường và cải thiện hiệu quả hoạt động trong nhiều lĩnh vực.
Tuy nhiên, việc sử dụng nhiều giải pháp on-premise truyền thống đa dạng thường cản trở đổi mới do sự phát triển chức năng chậm, phân mảnh dữ liệu, vấn đề về khả năng mở rộng, chi phí bảo trì và cấp phép cao.
Để giải quyết những thách thức này, BMW Group liên tục tìm hiểu các giải pháp BI cloud-native. Bằng cách áp dụng những công cụ này, BMW Group hướng tới việc vượt qua các rào cản từ hệ thống truyền thống và giải quyết các vấn đề về khả năng mở rộng và chi phí vận hành.
Trong bài viết này, đối tác tư vấn cao cấp AWS Storm Reply và BMW Group chia sẻ về quá trình hợp tác chuyển đổi công cụ BI on-premises truyền thống của BMW Group sang Amazon QuickSight. Bằng cách sử dụng automation code nâng cao, generative AI và kiến trúc AWS serverless, nhóm đã đơn giản hóa quy trình BI của BMW Group, giảm công sức thủ công và đạt được khả năng mở rộng. Bài viết nêu rõ những thách thức cụ thể gặp phải trong quá trình migration và giải thích cách khắc phục thông qua phương pháp hợp tác, sử dụng giải pháp tập trung vào cloud.
Kết quả của dự án thí điểm, đạt được chỉ trong 6 tuần, đã cho thấy tiềm năng của giải pháp như một công cụ migration tiêu chuẩn. Điều này dẫn đến việc BMW Group mở rộng hợp tác với Storm Reply để công nghiệp hóa giải pháp ở quy mô lớn.
Thách thức chính trong quá trình migration
BMW Group đối mặt với nhiệm vụ quan trọng là chuyển đổi số lượng lớn dashboard on-premises. Việc chuyển đổi công cụ BI truyền thống sang giải pháp được quản lý hoàn toàn trên cloud hiện đại như QuickSight đòi hỏi nhiều nỗ lực và chuyên môn.
Các thách thức chính bao gồm chuyển đổi dữ liệu thủ công, chuyển đổi dashboard và chức năng (như calculated fields) giữa các công cụ khác nhau, đồng thời đảm bảo quá trình chuyển đổi suôn sẻ mà không gián đoạn hoạt động hiện tại trong khi vẫn duy trì trải nghiệm người dùng tương tự.
Streamlined migration sang QuickSight để nâng cao BI
Cho dự án thí điểm này, chúng tôi đã chọn một số dashboard được lưu trữ trên nền tảng trao đổi dữ liệu nội bộ của BMW Group dành cho các chuyên gia phân tích kinh doanh. Nền tảng này có hơn 10.000 nhân viên nội bộ BMW Group truy cập hàng năm và chứa hơn 100 dashboard. Hiện tại nó dựa trên máy chủ Tableau on-premises.
Mục tiêu của dự án thí điểm là chứng minh các khía cạnh sau:
- Trải nghiệm người dùng sẽ phù hợp và tương tự như Tableau
- Giải pháp sẽ cung cấp mức độ automation cao để cho phép migration quy mô lớn
- Chuyển đổi code thủ công sẽ ở mức tối thiểu, được hỗ trợ bởi báo cáo phân tích độ phức tạp trước, nhờ generative AI
- Giải pháp sẽ đủ tổng quát để có thể áp dụng cho các công cụ BI khác trong tương lai
Để đạt được những mục tiêu này, chúng tôi bắt đầu xác định một phương pháp module, được mô tả sau trong bài viết này, giải quyết các thách thức chính. Chúng tôi đã phát triển thư viện chuyển đổi và script để tự động hóa hầu hết các tác vụ, sử dụng generative AI để đánh giá độ phức tạp của việc chuyển đổi và dịch các cấu hình đặc thù của công cụ mà nếu không sẽ đòi hỏi nhiều công sức thủ công. Mục tiêu của chúng tôi là tạo ra một giải pháp tự động, không phụ thuộc có thể mở rộng và phát triển để phù hợp với các công cụ BI khác ngoài Tableau.
Tổng quan giải pháp
Chúng tôi bắt đầu bằng việc thiết kế quy trình migration, ghi nhớ tầm quan trọng của việc xác định chiến lược block, hữu ích cho các phát triển trong tương lai.
Quy trình, được mô tả trong sơ đồ sau, bắt đầu với việc xuất file Tableau mô tả thành phần của dashboard.
File sau đó được phân tích bởi công cụ phân tích độ phức tạp generative AI của chúng tôi, ước tính thời gian cần thiết để developer thực hiện các tác vụ chuyển đổi thủ công liên quan. Điều này quan trọng để hiểu được chúng ta có thể tiết kiệm bao nhiêu thời gian và tài nguyên thông qua giải pháp tự động này.
Bước tiếp theo là automation, nơi diễn ra quá trình chuyển đổi từ Tableau sang QuickSight.
QuickSight API được gọi bằng cách truyền kết quả thu được từ bước trước.
Cuối cùng, các dashboard đã sẵn sàng và có sẵn trong QuickSight và có thể được kiểm toán bởi end-user.
Phân tích độ phức tạp
Trong thành phần phân tích độ phức tạp, được mô tả trong sơ đồ sau, chúng tôi đã phát triển một parsing script để lấy file Tableau và trích xuất tất cả các tham số của một dashboard cụ thể, như số lượng biểu đồ hiện có, loại biểu đồ, số trường được tính toán, và nhiều thông số khác.
Kết quả được lưu trong file JSON và sau đó được gửi đến large language model (LLM) cùng với các prompts phù hợp. Kết quả của công cụ phân tích độ phức tạp là một báo cáo về độ phức tạp.
Giải pháp được xây dựng trên Amazon Bedrock, và chúng tôi sử dụng họ LLM Claude của Anthropic.
Tự động hóa
Thành phần tự động hóa bao gồm hai luồng khác nhau, như được thể hiện trong sơ đồ sau. Luồng thứ nhất, ở trên cùng, bắt đầu phân tích và xử lý file Tableau để trích xuất thông tin liên quan về các thành phần chính như biểu đồ, nhãn, màu sắc và nhiều thông tin khác.
Kết quả được đưa vào một file trung gian do chúng tôi thiết kế. Điều này cho phép chúng tôi có một giải pháp độc lập với các nền tảng BI, có thể được sử dụng trong tương lai để chuyển đổi các công cụ BI khác nhau. Từ đó file trung gian được xử lý bởi một script phân tích để tạo ra mô hình QuickSight.
Mô hình này sau đó được kết hợp với kết quả từ nhánh dưới, nơi chứa các hàm đầu vào của Tableau – các biểu thức ngôn ngữ cụ thể được sử dụng để thay đổi giao diện của dashboard.
Dữ liệu kết quả được đưa vào LLM thực hiện một nhiệm vụ quan trọng: chuyển đổi các calculated fields từ Tableau sang QuickSight, vì chúng sử dụng cú pháp ngôn ngữ khác nhau.
Cuối cùng, kết quả của sự kết hợp giữa các calculated fields của QuickSight và mô hình phân tích được gửi đến QuickSight API, tạo ra tất cả các dashboard với bộ lọc, nhãn, màu sắc và các thành phần khác.
Kết quả và hiểu biết từ chuyển đổi thí điểm
Trong pilot này, chúng tôi tập trung vào năm loại biểu đồ sử dụng dữ liệu infotainment ẩn danh từ BMW Group:
- Line chart
- Horizontal bar chart
- Vertical bar chart
- Table chart
- Map chart
Sau khi phát triển các thành phần được nêu trong các phần trước, chúng tôi thực hiện quy trình migration. Kết quả chuyển đổi được minh họa trong các hình sau, so sánh dashboard ban đầu (bên trái) với dashboard QuickSight (bên phải) được tạo tự động bởi giải pháp của chúng tôi. Tất cả dữ liệu hiển thị đều là ví dụ hoặc dữ liệu mô phỏng không có ý nghĩa thực tế.
Những bước tiếp theo
Bước tiếp theo Ở giai đoạn này, nhóm hợp tác giữa Storm Reply và BMW Group hướng tới mở rộng phạm vi các loại biểu đồ, cải thiện phân tích độ phức tạp và nâng cao độ chính xác thông qua generative AI, bao gồm tương quan và chuyển đổi dữ liệu phức tạp, giúp việc migration hiệu quả hơn.
Kết luận
Dự án pilot kéo dài 6 tuần đã chứng minh thành công hiệu quả của việc tự động hóa migration các dashboard BI truyền thống sang QuickSight. Bằng cách sử dụng automation scripting nâng cao và generative AI, chúng tôi đã đạt được sự giảm thiểu đáng kể công sức migration, lên đến 80% so với phương pháp thủ công truyền thống. Cách tiếp cận này cho phép chúng tôi chuyển đổi các biểu đồ và trực quan hóa dữ liệu phức tạp từ các công cụ BI hiện có sang cú pháp và định dạng cụ thể của QuickSight, đạt tỷ lệ bảo toàn 90% dữ liệu gốc sau khi chuyển đổi mà không cần can thiệp thủ công.
Công cụ phân tích độ phức tạp đóng vai trò quan trọng trong việc ước tính công sức migration, cho phép lập kế hoạch và phân bổ nguồn lực hiệu quả. Bằng cách xác định sớm các thách thức tiềm ẩn, chúng tôi đã cải thiện hiệu quả tổng thể của dự án. Ngoài ra, những hiểu biết thu được từ phân tích này rất quan trọng trong việc xác định business case chính xác cho loại dự án này, cung cấp dữ liệu có giá trị để đánh giá tính khả thi.
Nhìn chung, dự án này nêu bật tiềm năng chuyển đổi của việc kết hợp automation và generative AI trong hiện đại hóa quy trình BI, giúp các tổ chức sử dụng dữ liệu hiệu quả hơn và đưa ra quyết định nhanh chóng.
Về Các Tác Giả
Francesco Ongaro là Giám đốc Cấp cao và Giám đốc Đơn vị Kinh doanh tại Storm Reply, có trụ sở tại Munich, Đức. Anh tốt nghiệp với bằng danh dự từ Đại học Bologna và từng là Nghiên cứu viên Thỉnh giảng tại Phòng thí nghiệm Nghiên cứu Mạng của Đại học California, Los Angeles. Là một nhà lãnh đạo giàu kinh nghiệm với hơn 10 năm trong AWS, anh quản lý các đội nhóm lớn và thúc đẩy tăng trưởng kinh doanh cho các công ty Đức và Ý với trọng tâm về đổi mới và thành công của khách hàng. Anh thích trượt ván tuyết, đi bộ đường dài, du lịch cùng vợ và dành thời gian với bạn bè thân thiết.
Marcello Tava là Product Owner về GenAI Solutions cho IT tại bộ phận Artificial Intelligence của BMW Group. Anh tốt nghiệp Đại học Bách khoa Milan ngành Kỹ thuật Hàng không Vũ trụ và có bằng Tiến sĩ về Tối ưu hóa Số trong Thiết kế Hệ thống từ Đại học Tokyo. Anh là tác giả của hơn 20 bằng sáng chế trong lĩnh vực hệ thống định vị xe hơi, tối ưu hóa lộ trình và xử lý dữ liệu. Anh tận tâm phát triển các giải pháp IT có thể mang lại nhiều niềm vui và giảm tải công việc cho đồng nghiệp. Anh là thành viên của Hội Màu nước Đức và thích chơi piano và đi bộ đường dài ở vùng núi Nam Tyrol.
Piero Ciffolillo là Chuyên viên tư vấn tại Storm Reply, có trụ sở tại Munich, Đức. Anh có nền tảng học vấn về kỹ thuật vật lý và khoa học dữ liệu. Anh có thành tích đã được chứng minh trong việc cung cấp dịch vụ hạ tầng đổi mới và thiết kế giải pháp generative AI trên cloud. Trong thời gian rảnh, Piero thích chơi bóng đá, biểu diễn bass guitar trong một ban nhạc nghiệp dư và nấu ăn.
Alessandro Dovico là chuyên viên tư vấn cho Storm Reply và làm việc tại Turin, Ý. Anh có nền tảng là full-stack developer và chuyên gia về trực quan hóa dữ liệu cho Amazon QuickSight. Anh đã đóng góp vào nhiều dự án liên quan đến trực quan hóa dữ liệu, kiến trúc cloud và phát triển full-stack, sử dụng các dịch vụ AWS để tạo ra các nền tảng mượt mà, mạnh mẽ. Trong thời gian rảnh, anh thích đọc sách và xem phim.
Toaha Umar là AI Engineer tại BMW, chuyên về generative AI trong đội BMW AI Solutions. Anh có nền tảng vững chắc về generative AI, MLOps, kiến trúc giải pháp AWS và quản lý dự án, và trước đây đã lãnh đạo AI Task Force tại Storm Reply. Ngoài công việc chuyên môn, Toaha có hơn 7 năm kinh nghiệm ở các vị trí lãnh đạo trong các tổ chức phi lợi nhuận, bao gồm IEEE và TUM.ai, sáng kiến sinh viên AI hàng đầu châu Âu. Anh đam mê việc cố vấn cho các chuyên gia trẻ và đóng góp cho cộng đồng AI. Trong thời gian rảnh, anh thích đọc sách, nấu ăn, du lịch và khám phá các công nghệ mới cùng với trải nghiệm ẩm thực.
Matteo Lanati là Chuyên viên tư vấn Cao cấp tại Storm Reply Germany ở Munich. Anh có nền tảng học vấn về viễn thông và hơn 10 năm kinh nghiệm làm quản trị hệ thống và DevOps. Anh đã đóng góp vào nhiều dự án về các chủ đề như infrastructure as code, automation, migration to Kubernetes và thiết kế kiến trúc dựa trên các dịch vụ AWS. Trong thời gian rảnh, anh thích đọc sách và leo núi.
Về Storm Reply
Storm Reply là công ty chuyên về AWS trong mạng lưới Reply. Storm là đối tác tư vấn cao cấp của AWS từ năm 2014 và được vinh danh là AWS System Integrator of the Year (EMEA) năm 2022 và 2023. Với nhiều năng lực AWS và mối quan hệ vững chắc, đáng tin cậy với AWS, Storm giúp các doanh nghiệp hàng đầu, thị trường cấp trung và các công ty số sử dụng hệ sinh thái AWS đang phát triển một cách hiệu quả và định hướng mục tiêu. Họ có thành tích đã được chứng minh trong việc áp dụng cloud và migrations theo ngành cùng với phát triển phần mềm hiện đại, dẫn đến các đổi mới về generative AI và IoT trên khắp thị trường DACH và ngành công nghiệp ô tô toàn cầu.
Bài được dịch từ bài viết trên AWS Blogs, bạn có thể xem bài viết gốc tại đây.