• Online Transaction Processing merupakan suatu kelompok sistem yang memfasilitasi dan manajemen aplikasi berorientasi transakasi.
• Umumnya berfungsi untuk proses entry dan pengambilan data.
• OLTP merupakan front-end dari sumber data yang akan diolah menjadi dw
OLTP vs DW
• OLTP dapat berupa aplikasi yang berdiri sendiri atau sistem pengolahan data yang terintegrasi pada sebuah organisasi.
• Data dari transaksi OLTP akan disimpan pada database yang normal, terstruktur dengan tingkat granularitas rendah.
• Namun, sebelum bisa dikembangkan sebuah dw, organisasi tersebut harus sudah memiliki OLTP yang berjalan dengan baik, dan terstruktur.
Teknik populasi data DW
• Data yang akan di-load ke dw harus melalui 3 langkah yang disebut ETL (Extract-Transform-Load)
- Extract
Ialah seluruh proses untuk mengambil data dari sumber data menjadi sebuah format standar yang mudah untuk diproses.
Umumnya proses ini melakukan agregasi sederhana dengan query dan outputnya ialah data dalam format XML.
Proses yang dilakukan termasuk cleansing (pembersihan data) dan profiling data. - Transform
Ialah proses untuk mengubah format, struktur dan arsitektur data agar sesuai dengan spesifikasi yang ditentukan di DW.
Proses transformasi yang dimaksud dapat berupa penambahan index, key, field, agregasi, filtering, joining, sorting dan relasi.
Dalam ruang lingkup kecil, misalnya agregasi, dapat dilakukan saat extract jika diinginkan.
- Load
Ialah proses untuk me-masukkan data ke dalam DW, umumnya dalam format XML
• ETL dapat dilakukan dengan 2 pendekatan :
- Pengolahan langsung dari sumber data OLTP dan flat file
- Pengolahan melalui staging area
1. Pengolahan langsung dari sumber data OLTP dan flat file
- Teknik ini memanfaatkan metode query dan transfer yang dibangun oleh developer ETL langsung dari sumber data yang ada.
- Teknik ini hanya cocok bila digunakan pada sumber data yang seragam (teknologi dan aksesnya), transform yang dibutuhkan tidak banyak dan ukuran relatif kecil.
2. Pengolahan melalui staging area
• Teknik ini memanfaatkan sebuah database yang bertindak sebagai penyimpan sementara dari data yang akan di-load ke DW
• Proses Transform dilakukan di staging area
• Teknik ini cocok untuk sumber data beragam yang besar, kompleks dan proses transform yang tidak sederhana.
Langkah pengembangan DW
• Berikut ialah langkah pengembangan DW
No comments:
Post a Comment