Pandas是一種流行的用于數據操作的Python庫,它提供了一種稱為“向量化”的強大技術可以有效地將操作應用于整個列或數據系列,從而消除了顯式循環的需要。在本文中,我們將探討什么是向量化,以及它如何簡化數據分析任務。
向量化是將操作應用于整個數組或數據系列的過程,而不是逐個遍歷每個元素。在Pandas中可以對整個列或Series執行操作,而無需編寫顯式循環。這種高效的方法利用了底層優化的庫,使您的代碼更快、更簡潔。
一個具有兩列的DataFrame, ' a '和' B ',我們希望以元素方式添加這兩列,并將結果存儲在新列' C '中。通過向量化,你可以在一行代碼中實現這一點:
import pandas as pd data = {'A': [1, 2, 3], 'B': [4, 5, 6]} df = pd.DataFrame(data) # Using vectorization to add columns 'A' and 'B' df['C'] = df['A'] + df['B'] print(df['C']) Output: 0 5 1 7 2 9
在本例中,加法運算df['A'] + df['B']同時應用于整個列'A'和'B',結果存儲在列'C'中。
向量化還允許對列應用自定義函數。假設你想計算一列中每個元素的平方:
import pandas as pd data = {'A': [1, 2, 3]} df = pd.DataFrame(data) # Define a custom function def square(x): return x ** 2 # Applying the 'square' function to the 'A' column df['A_squared'] = df['A'].apply(square) print(df['A_squared']) Output: 0 1 1 4 2 9
使用.apply()將平方函數應用于整個'A'列。不需要顯式循環。
也將矢量化用于條件操作,比如基于列a中的條件創建一個新的列D:
import pandas as pd data = {'A': [1, 2, 3]} df = pd.DataFrame(data) # Creating a new column 'D' based on a condition in column 'A' df['D'] = df['A'].apply(lambda x: 'Even' if x % 2 == 0 else 'Odd') print(df) Output: A D 0 1 Odd 1 2 Even 2 3 Odd
使用lambda函數來檢查' a '中的每個元素是偶數還是奇數,并將結果分配給' D '列。
在Pandas中向量化提供了幾個好處:
向量化是一種強大的編程技術,可以加快代碼的執行速度。這種方法利用底層優化的硬件指令和庫,使計算更快、更高效。讓我們以Python和NumPy為例,探索向量化如何加快代碼的速度。
在許多編程場景中,可能需要對數據元素集合執行相同的操作,例如逐個添加兩個數組或對數組的每個元素應用數學函數。一般都會使用循環一次迭代一個元素并執行操作。
下面是一個沒有向量化的Python示例:
list1 = [1, 2, 3, 4, 5] list2 = [6, 7, 8, 9, 10] result = [] for i in range(len(list1)): result.append(list1[i] + list2[i]) print(result) Output: [7, 9, 11, 13, 15]
雖然此代碼可以工作,但它在循環中單獨處理每個元素,這對于大型數據集來說可能很慢。
NumPy是一個流行的Python庫,提供對向量化操作的支持。它利用了優化的C和Fortran庫,使其在數值計算方面比純Python循環快得多。
下面是使用NumPy的相同加法操作:
array1 = np.array([1, 2, 3, 4, 5]) array2 = np.array([6, 7, 8, 9, 10]) result = array1 + array2 print(result) Output: [ 7 9 11 13 15]
NumPy可以一次對整個數組執行操作,并且更有效地處理底層細節。
比較一下使用NumPy和Python中傳統的基于循環的方法執行元素加法所花費的時間。我們將使用timeit模塊來度量這兩個方法的執行時間。下面是比較的代碼:
import numpy as np import timeit # Create two NumPy arrays and two lists for the comparison array1 = np.random.randint(1, 100, size=1000000) array2 = np.random.randint(1, 100, size=1000000) list1 = list(array1) list2 = list(array2) # Vectorized processing with NumPy def numpy_vectorized(): result = array1 + array2 # Traditional loop-based processing def loop_based(): result = [] for i in range(len(list1)): result.append(list1[i] + list2[i]) # Measure execution time for NumPy vectorized approach numpy_time = timeit.timeit(numpy_vectorized, number=100) # Measure execution time for traditional loop-based approach loop_time = timeit.timeit(loop_based, number=100) print(f"NumPy Vectorized Approach: {numpy_time:.5f} seconds") print(f"Traditional Loop-Based Approach: {loop_time:.5f} seconds") Output: NumPy Vectorized Approach: 0.30273 seconds Traditional Loop-Based Approach: 17.91837 seconds
可以看到NumPy向量化方法對于大數據集的速度要快得多,因為它的矢量化操作是經過優化的。
向量化為加快代碼速度提供了幾個優勢:
減少循環開銷:在傳統循環中,存在與管理循環索引和檢查循環條件相關的開銷。通過向量化,可以消除這些開銷,因為這些操作應用于整個數組。
優化的低級指令:像NumPy這樣的庫使用優化的低級指令(例如,現代cpu上的SIMD指令)來對數組執行操作,充分利用硬件功能。這可以顯著提高速度。
并行性:一些向量化操作可以并行化,這意味著現代處理器可以同時執行多個操作。這種并行性進一步加快了計算速度。
Pandas和NumPy等庫中的向量化是一種強大的技術,可以提高Python中數據操作任務的效率。可以以高度優化的方式對整個列或數據集合執行操作,從而生成更快、更簡潔的代碼。所以無論是在處理基本算術、自定義函數還是條件操作,利用向量化都可以極大地改進數據分析工作流。
本文鏈接:http://www.tebozhan.com/showinfo-26-13616-0.html向量化操作簡介和Pandas、Numpy示例
聲明:本網頁內容旨在傳播知識,若有侵權等問題請及時與本網聯系,我們將在第一時間刪除處理。郵件:2376512515@qq.com