Tác giả: Nikhil Mathugar, Marc Breslow, Sudhanshu Sinha, Andrew Ang, Naman Sharma, Mofijul Islam, Parth Patwa, Shinan Zhang
Ngày phát hành: 26 JAN 2026
Chuyên mục: Amazon Bedrock, Customer Solutions, Generative AI

Bài viết này được đồng tác giả bởi Nikhil Mathugar, Marc Breslow và Sudhanshu Sinha từ Totogi.

Bài viết blog này mô tả cách Totogi tự động hóa quy trình xử lý yêu cầu thay đổi. Totogi là một công ty AI tập trung vào việc giúp các công ty viễn thông (telco) đổi mới, tăng tốc tăng trưởng và áp dụng AI ở quy mô lớn. BSS Magic, sản phẩm chủ lực của Totogi, kết nối và mô hình hóa các hoạt động kinh doanh viễn thông, phủ một lớp AI lên các hệ thống cũ. Với BSS Magic, các công ty viễn thông có thể mở rộng, tùy chỉnh và hiện đại hóa hệ thống của mình mà không phụ thuộc vào nhà cung cấp hoặc các triển khai kéo dài. Bằng cách hợp tác với AWS Generative AI Innovation Center và sử dụng khả năng đổi mới nhanh chóng của Amazon Bedrock, chúng tôi đã đẩy nhanh quá trình phát triển BSS Magic, giúp khách hàng của Totogi đổi mới nhanh hơn và kiểm soát tốt hơn ngăn xếp công nghệ của họ.

Trong bài viết này, chúng tôi khám phá những thách thức liên quan đến hệ thống hỗ trợ kinh doanh (BSS) truyền thống và các giải pháp đổi mới do Totogi BSS Magic cung cấp. Chúng tôi giới thiệu những phức tạp của ontology viễn thông và khung đa tác nhân hỗ trợ tự động hóa xử lý yêu cầu thay đổi. Ngoài ra, bài viết sẽ phác thảo việc điều phối các tác nhân AI và lợi ích của phương pháp này đối với các nhà mạng viễn thông và hơn thế nữa.

Thách thức với BSS

Các hệ thống BSS nổi tiếng là khó quản lý. Một ngăn xếp BSS điển hình bao gồm hàng trăm ứng dụng khác nhau từ nhiều nhà cung cấp. Nhưng các ứng dụng BSS đó khó tích hợp, hoặc hạn chế các công ty viễn thông trong hệ sinh thái của nhà cung cấp hoặc yêu cầu họ đầu tư vào các tùy chỉnh tốn kém. Những tùy chỉnh như vậy chậm và tốn nhiều tài nguyên vì chúng phụ thuộc vào tài năng kỹ thuật chuyên biệt.

Mỗi yêu cầu thay đổi đòi hỏi phân tích kỹ lưỡng các tác động tiềm ẩn trên các mô-đun được kết nối, tiêu tốn đáng kể thời gian và công sức. Ngay cả những cập nhật nhỏ cũng có thể liên quan đến nhiều vòng mã hóa, kiểm thử và cấu hình lại để đạt được sự ổn định. Đối với các nhà mạng viễn thông, nơi độ tin cậy của hệ thống là rất quan trọng, những biện pháp bảo vệ này là không thể thương lượng, nhưng chúng phải trả giá đắt. Quá trình này càng phức tạp hơn do sự khan hiếm các kỹ sư có chuyên môn cần thiết, làm tăng chi phí và kéo dài thời gian. Kết quả là, chu kỳ phát triển cho các tính năng hoặc dịch vụ mới thường mất nhiều tháng để hoàn thành, khiến các nhà mạng phải vật lộn để đáp ứng nhu cầu của một thị trường đang phát triển nhanh chóng.

Các sáng kiến như Kiến trúc số mở (ODA) của TM Forum nhằm giải quyết vấn đề này, nhưng hầu hết các nhà cung cấp đều chậm áp dụng các tiêu chuẩn mở như vậy. Động lực này làm tăng nợ kỹ thuật và thổi phồng chi phí vận hành.

Tổng quan giải pháp BSS Magic

Totogi BSS Magic giảm độ phức tạp bằng cách sử dụng khả năng tương tác do AI tạo ra, giúp đơn giản hóa việc tích hợp, tùy chỉnh và phát triển ứng dụng. BSS Magic có hai khía cạnh chính:

• Một ontology viễn thông hiểu ý nghĩa ngữ nghĩa của cấu trúc dữ liệu và mối quan hệ giữa chúng, liên kết dữ liệu rời rạc thành một mạng lưới tri thức mạch lạc.
• Khung đa tác nhân để tự động hóa hoàn toàn các yêu cầu thay đổi (CR), giúp giảm thời gian xử lý CR từ 7 ngày xuống còn vài giờ.

Ontology viễn thông: Chìa khóa cho khả năng tương tác

Ontology đóng vai trò là bản thiết kế ngữ nghĩa chi tiết các khái niệm, mối quan hệ và kiến thức miền. Trong viễn thông, điều này có nghĩa là chuyển đổi bối cảnh BSS thành một hệ sinh thái rõ ràng, có thể tái sử dụng và có khả năng tương tác. Ontology viễn thông của Totogi tạo điều kiện cho sự hiểu biết sâu sắc về tương tác dữ liệu và tích hợp liền mạch trên bất kỳ nhà cung cấp hoặc hệ thống nào.
Bằng cách áp dụng các nguyên tắc FAIR (Khả năng tìm kiếm, Khả năng truy cập, Khả năng tương tác và Khả năng tái sử dụng), kiến trúc dựa trên ontology biến dữ liệu tĩnh, bị cô lập thành tài sản tri thức động, được kết nối—mở khóa dữ liệu bị mắc kẹt và tăng tốc đổi mới. Sơ đồ tổng quan về ontology được cung cấp trong hình sau.

Khung đa tác nhân để tự động hóa xử lý yêu cầu thay đổi

Các tác nhân AI là các ứng dụng phần mềm tiên tiến được đào tạo để thực hiện các tác vụ cụ thể một cách tự động. Các tác nhân AI của Totogi BSS Magic có kiến thức miền sâu rộng và sử dụng sự hiểu biết này để quản lý các tương tác dữ liệu phức tạp trên nhiều hệ thống của nhà cung cấp. Các tác nhân này tự động tạo và kiểm thử mã cấp viễn thông, thay thế các tích hợp và tùy chỉnh truyền thống bằng các ứng dụng thông minh, do AI tạo ra. Về cốt lõi, BSS Magic sử dụng phương pháp AI đa tác nhân với các vòng lặp phản hồi để tự động hóa toàn bộ quy trình phát triển phần mềm. Mỗi tác nhân được thiết kế để thực hiện một vai trò cụ thể trong quy trình phát triển:

• Tác nhân phân tích nghiệp vụ chuyển đổi các yêu cầu phi cấu trúc thành các thông số kỹ thuật nghiệp vụ chính thức.
• Tác nhân kiến trúc sư kỹ thuật lấy các thông số kỹ thuật nghiệp vụ này và định nghĩa kiến trúc kỹ thuật, API và các phụ thuộc.
• Tác nhân nhà phát triển tạo ra mã chất lượng cao, có thể triển khai, hoàn chỉnh với các thiết kế mô-đun và tối ưu hóa.
• Tác nhân QA xác thực mã để tuân thủ các phương pháp hay nhất, cải thiện chất lượng và bảo mật. Nó cung cấp phản hồi được tác nhân nhà phát triển sử dụng để cập nhật mã.
• Tác nhân kiểm thử tạo ra các trường hợp kiểm thử đơn vị mạnh mẽ, hợp lý hóa việc xác thực và triển khai. Kết quả của các trường hợp kiểm thử được tác nhân nhà phát triển sử dụng để cải thiện mã.

Tổng quan về hệ thống được cung cấp trong hình sau.

Quy trình tích hợp này giảm thời gian hoàn thành yêu cầu thay đổi từ 7 ngày xuống còn vài giờ, với sự can thiệp tối thiểu của con người. Các điều kiện tiên quyết để triển khai hệ thống bao gồm tài khoản AWS có quyền truy cập vào Amazon Bedrock, AWS Step Functions, AWS Lambda và thông tin xác thực Amazon đã được cấu hình. Các tác nhân AI được triển khai bằng cách sử dụng các mô hình ngôn ngữ lớn (LLM) Anthropic Claude thông qua Amazon Bedrock. Quản lý trạng thái và điều phối quy trình làm việc được xử lý bởi Step Functions để đảm bảo tiến trình đáng tin cậy qua từng giai đoạn. Cơ sở hạ tầng AWS cung cấp độ tin cậy, bảo mật và khả năng mở rộng cấp doanh nghiệp cần thiết cho các giải pháp cấp viễn thông.

Để xây dựng khung này, Totogi đã hợp tác với AWS Generative AI Innovation Center (GenAIIC). GenAIIC cung cấp quyền truy cập vào chuyên môn AI, tài năng hàng đầu trong ngành và quy trình lặp lại nghiêm ngặt để tối ưu hóa các tác nhân AI và quy trình tạo mã. Nó cũng cung cấp hướng dẫn về kỹ thuật prompt, Tạo sinh tăng cường truy xuất (RAG), lựa chọn mô hình, đánh giá mã tự động, vòng lặp phản hồi, các số liệu hiệu suất mạnh mẽ để đánh giá đầu ra do AI tạo ra, v.v. Sự hợp tác đã giúp thiết lập các phương pháp để duy trì độ tin cậy trong khi mở rộng tự động hóa trên toàn bộ nền tảng. Giải pháp điều phối nhiều tác nhân AI chuyên biệt để xử lý toàn bộ vòng đời phát triển phần mềm, từ phân tích yêu cầu đến thực thi kiểm thử. Chi tiết về các tác nhân AI được trình bày trong các phần sau.

Lớp điều phối đa tác nhân

Lớp điều phối phối hợp các tác nhân AI chuyên biệt thông qua sự kết hợp của Step Functions và các hàm Lambda. Mỗi tác nhân duy trì ngữ cảnh thông qua RAG và các kỹ thuật few-shot prompting để tạo ra các đầu ra chính xác, cụ thể theo miền. Hệ thống quản lý giao tiếp tác nhân và chuyển đổi trạng thái trong khi duy trì một nhật ký kiểm toán toàn diện về các quyết định và hành động.

Tạo phân tích nghiệp vụ

Tác nhân Phân tích Nghiệp vụ sử dụng khả năng hiểu ngôn ngữ tự nhiên của Claude để xử lý các tài liệu tuyên bố công việc (SOW) và tiêu chí chấp nhận. Nó trích xuất các yêu cầu chính bằng cách sử dụng các mẫu prompt tùy chỉnh được tối ưu hóa cho kiến thức miền BSS viễn thông. Tác nhân tạo ra các thông số kỹ thuật có cấu trúc để xử lý hạ nguồn trong khi duy trì khả năng truy xuất nguồn gốc giữa các yêu cầu nghiệp vụ và triển khai kỹ thuật.

Tạo kiến trúc kỹ thuật

Tác nhân Kiến trúc sư Kỹ thuật chuyển đổi các yêu cầu nghiệp vụ thành các cấu hình dịch vụ AWS và mẫu kiến trúc cụ thể. Nó tạo ra các thông số kỹ thuật API và mô hình dữ liệu toàn diện và kết hợp các nguyên tắc AWS Well-Architected. Tác nhân xác thực các quyết định kiến trúc dựa trên các mẫu và phương pháp hay nhất đã được thiết lập, tạo ra các mẫu cơ sở hạ tầng dưới dạng mã để triển khai tự động.

Quy trình tạo mã

Tác nhân Nhà phát triển chuyển đổi các thông số kỹ thuật kỹ thuật thành mã triển khai bằng cách sử dụng khả năng tạo mã nâng cao của Claude. Nó tạo ra mã mạnh mẽ, sẵn sàng sản xuất bao gồm các cơ chế xử lý lỗi và ghi nhật ký phù hợp. Quy trình tích hợp phản hồi từ các bước xác thực để liên tục cải thiện chất lượng mã và duy trì tính nhất quán với các phương pháp hay nhất của AWS.

Đảm bảo chất lượng tự động

Tác nhân QA được xây dựng bằng Claude để thực hiện phân tích và xác thực mã toàn diện. Nó đánh giá chất lượng mã và xác định các vấn đề hiệu suất tiềm ẩn. Hệ thống duy trì các vòng lặp phản hồi liên tục với giai đoạn phát triển, tạo điều kiện cho việc lặp lại và cải thiện nhanh chóng mã được tạo dựa trên các số liệu chất lượng và tuân thủ các phương pháp hay nhất. Quy trình QA bao gồm các prompt được xây dựng cẩn thận.

Prompt phân tích mã QA:

"You are a senior QA backend engineer analyzing Python code for serverless applications.
Your task is to:
Compare requirements against implemented code
Identify missing features
Suggest improvements in code quality and efficiency
 Provide actionable feedback
Focus on overall implementation versus minor details
Consider serverless best practices"

Prompt này giúp tác nhân QA thực hiện phân tích mã kỹ lưỡng, đánh giá các số liệu chất lượng và duy trì các vòng lặp phản hồi liên tục với các giai đoạn phát triển.

Khung tự động hóa kiểm thử

Tác nhân Kiểm thử tạo ra các bộ kiểm thử toàn diện xác minh cả yêu cầu chức năng và phi chức năng. Nó sử dụng Claude để hiểu ngữ cảnh kiểm thử và tạo ra các kịch bản kiểm thử phù hợp. Khung quản lý việc tinh chỉnh kiểm thử thông qua các chu kỳ đánh giá, đạt được phạm vi bao phủ hoàn chỉnh các yêu cầu nghiệp vụ trong khi duy trì chất lượng và độ tin cậy của mã kiểm thử. Khung kiểm thử sử dụng phương pháp prompt đa giai đoạn.

Prompt cấu trúc kiểm thử ban đầu:

"As a senior QA engineer, create a pytest-based test structure including:
Detailed test suite organization
Resource configurations
Test approach and methodology
Required imports and dependencies"

Prompt triển khai kiểm thử:

"Generate complete pytest implementation including:
Unit tests for each function
Integration tests for API endpoints
AWS service mocking
Edge case coverage
Error scenario handling"

Prompt phân tích kết quả kiểm thử:

"Evaluate test outputs and coverage reports to:
Verify test completion status
Track test results and outcomes
Measure coverage metrics
Provide actionable feedback"

Phương pháp có cấu trúc này dẫn đến phạm vi kiểm thử toàn diện trong khi duy trì các tiêu chuẩn chất lượng cao. Khung hiện đạt được 76% phạm vi bao phủ mã và xác thực thành công cả yêu cầu chức năng và phi chức năng.

Tác nhân Kiểm thử cung cấp một vòng lặp phản hồi cho tác nhân Phát triển để cải thiện mã.

Kết luận

Việc tích hợp Totogi BSS Magic với Amazon Bedrock trình bày một giải pháp toàn diện cho các nhà mạng viễn thông hiện đại. Một số điểm bạn cần xem xét:

• Tự động hóa từ đầu đến cuối: BSS Magic tự động hóa toàn bộ vòng đời phát triển—từ ý tưởng đến triển khai. Các tác nhân AI xử lý mọi thứ từ yêu cầu, kiến trúc và tạo mã đến kiểm thử và xác thực.
• Kết quả: Khung tác nhân đã tăng cường đáng kể hiệu quả, giảm thời gian xử lý yêu cầu thay đổi từ bảy ngày xuống còn vài giờ. Khung kiểm thử tự động đạt được 76% phạm vi bao phủ mã, liên tục cung cấp mã cấp viễn thông chất lượng cao.
• Giá trị độc đáo cho các nhà mạng viễn thông: Bằng cách sử dụng Totogi BSS Magic, các nhà mạng viễn thông có thể tăng tốc thời gian đưa sản phẩm ra thị trường và giảm chi phí vận hành. BSS Magic sử dụng AI tự trị, độc lập quản lý các tác vụ phức tạp để các nhà mạng viễn thông có thể tập trung vào đổi mới chiến lược. Giải pháp được hỗ trợ bởi Amazon Bedrock, cung cấp các mô hình và cơ sở hạ tầng AI có thể mở rộng, bảo mật và độ tin cậy cao quan trọng đối với viễn thông.
• Tác động đến các ngành khác: Mặc dù BSS Magic hướng tới ngành viễn thông, khung đa tác nhân có thể được tái sử dụng cho phát triển phần mềm nói chung trên các ngành khác.
• Công việc trong tương lai: Các cải tiến trong tương lai sẽ tập trung vào việc mở rộng kiến thức miền của mô hình trong viễn thông và các miền khác. Một phần mở rộng khả thi khác là tích hợp một mô hình AI để dự đoán các vấn đề tiềm ẩn trong các yêu cầu thay đổi dựa trên dữ liệu lịch sử, từ đó giải quyết trước các cạm bẫy phổ biến.

Mọi phản hồi và câu hỏi đều được hoan nghênh trong phần bình luận bên dưới. Liên hệ với chúng tôi để tham gia AWS Generative AI Innovation Center hoặc để tìm hiểu thêm.

Về tác giả

Nikhil Mathugar là Kỹ sư Full Stack Presales tại Totogi, nơi anh thiết kế và triển khai các bằng chứng khái niệm (proof-of-concept) dựa trên AWS có khả năng mở rộng trên các framework Python và JavaScript hiện đại. Anh có hơn một thập kỷ kinh nghiệm trong việc kiến trúc và duy trì các hệ thống quy mô lớn—bao gồm các ứng dụng web, cơ sở hạ tầng streaming đa vùng và các pipeline tự động hóa thông lượng cao. Dựa trên nền tảng đó, anh đầu tư sâu vào AI—chuyên về AI tạo sinh, quy trình làm việc tác nhân và tích hợp các mô hình ngôn ngữ lớn để phát triển nền tảng BSS Magic của Totogi.

Marc Breslow là Field CTO của Totogi, nơi anh đang sử dụng AI để cách mạng hóa ngành viễn thông. Là một cựu binh của Accenture, Lehman Brothers và Citibank, Marc có thành tích đã được chứng minh trong việc xây dựng các hệ thống có khả năng mở rộng, hiệu suất cao. Tại Totogi, anh dẫn đầu việc phát triển các giải pháp dựa trên AI mang lại kết quả hữu hình cho các công ty viễn thông: giảm tỷ lệ rời bỏ khách hàng, tăng Doanh thu trung bình trên mỗi người dùng (ARPU) và hợp lý hóa các quy trình kinh doanh. Marc chịu trách nhiệm về các điểm chứng minh khách hàng thể hiện những khả năng này. Khi không làm việc với khách hàng, Marc lãnh đạo các nhóm xây dựng công nghệ BSS Magic của Totogi, tạo ra các ứng dụng và cải thiện hiệu quả bằng cách sử dụng các tác nhân và quy trình làm việc AI.

Sudhanshu Sinha là Giám đốc Công nghệ và là thành viên sáng lập của Totogi, nơi anh làm việc cùng với Quyền Giám đốc điều hành Danielle Rios để thúc đẩy sự chuyển đổi của ngành viễn thông sang phần mềm AI-native. Là chiến lược gia chủ chốt đằng sau BSS Magic, anh đã định hình kiến trúc, chiến lược tiếp cận thị trường và việc áp dụng ban đầu của nó—chuyển đổi các nguyên tắc AI-native thành giá trị có thể đo lường được cho các nhà mạng. Anh cũng giúp định nghĩa Ontology viễn thông của Totogi, cho phép khả năng tương tác và tự động hóa trên các bối cảnh BSS phức tạp. Với hơn hai thập kỷ trong ngành viễn thông, Sudhanshu kết hợp kiến thức kỹ thuật sâu sắc với sự nhạy bén thương mại để biến chuyển đổi dựa trên AI trở nên thực tế và có lợi nhuận cho các công ty viễn thông trên toàn thế giới.

Parth Patwa là Nhà khoa học dữ liệu tại AWS Generative AI Innovation Center, nơi anh làm việc trong các dự án của khách hàng sử dụng Generative AI và LLM. Anh có bằng Thạc sĩ từ Đại học California Los Angeles. Anh đã xuất bản các bài báo tại các hội nghị ML và NLP hàng đầu, và có hơn 1000 trích dẫn.

Mofijul Islam là Nhà khoa học ứng dụng II và Trưởng nhóm kỹ thuật tại AWS Generative AI Innovation Center, nơi anh giúp khách hàng giải quyết các thách thức nghiên cứu và kinh doanh lấy khách hàng làm trung tâm bằng cách sử dụng AI tạo sinh, các mô hình ngôn ngữ lớn (LLM), học đa tác nhân, tạo mã và học đa phương thức. Anh có bằng Tiến sĩ về học máy từ Đại học Virginia, nơi công việc của anh tập trung vào học máy đa phương thức, NLP đa ngôn ngữ và học đa nhiệm. Nghiên cứu của anh đã được xuất bản tại các hội nghị hàng đầu như NeurIPS, ICLR, AISTATS và AAAI, cũng như IEEE và ACM Transactions.

Andrew Ang là Kỹ sư ML cấp cao tại AWS Generative AI Innovation Center, nơi anh giúp khách hàng lên ý tưởng và triển khai các dự án bằng chứng khái niệm AI tạo sinh. Ngoài công việc, anh thích chơi squash và xem các chương trình nấu ăn cạnh tranh.

Shinan Zhang là Giám đốc Khoa học ứng dụng tại AWS Generative AI Innovation Center. Với hơn một thập kỷ kinh nghiệm trong ML và NLP, anh đã làm việc với các tổ chức lớn từ nhiều ngành khác nhau để giải quyết các vấn đề kinh doanh bằng các giải pháp AI đổi mới, và thu hẹp khoảng cách giữa nghiên cứu và ứng dụng công nghiệp.

Naman Sharma là Chiến lược gia AI tạo sinh tại AWS Generative AI Innovation Center, nơi anh hợp tác với các tổ chức để thúc đẩy việc áp dụng AI tạo sinh nhằm giải quyết các vấn đề kinh doanh ở quy mô lớn. Công việc của anh tập trung vào việc dẫn dắt khách hàng từ việc xác định phạm vi, triển khai và mở rộng các giải pháp tiên tiến với các nhóm Chiến lược và Khoa học ứng dụng của GenAIIC.