专栏名称: 数据分析与开发
伯乐在线旗下账号,分享数据库相关技术文章、教程和工具,另外还包括数据库相关的工作。偶尔也谈谈程序员人生 :)
目录
相关文章推荐
数据中心运维管理  ·  我国算力中心大盘点,8大枢纽与10大数据中心 ·  5 天前  
数据中心运维管理  ·  冷却分配单元:液冷系统的核心 ·  3 天前  
数据中心运维管理  ·  国内首个洞库式数据中心!贵安腾讯七星数据中心 ... ·  昨天  
数据分析与开发  ·  强烈建议尽快搞个软考证!(重大利好) ·  6 天前  
字节跳动技术团队  ·  又稳又快!基于ByteHouse ... ·  4 天前  
字节跳动技术团队  ·  又稳又快!基于ByteHouse ... ·  4 天前  
51好读  ›  专栏  ›  数据分析与开发

不要再在 pandas 循环中使用 loc/iloc 了!

数据分析与开发  · 公众号  · 数据库  · 2024-08-21 11:45

正文

作者:Python之栈
https://blog.csdn.net/weixin_53707653/article/details/141165983

最近,我在尝试使用 Python 中的循环,并意识到在循环中使用“iloc”/“loc”需要花费大量时间来执行。下一个问题是为什么“loc”花费的时间太长,以及“loc”的替代方案是什么?

本文中,将通过一些实际例子来回答这些问题。


什么是 loc?

loc[] 函数是一个 pandas 函数,用于使用行索引和列名访问 DataFrame 内的值。当您知道要访问哪一行和哪一列时,可以使用它。

通过一个例子来理解 loc。我们有以下名为 df 的 pandas DataFrame(如下所示),我们想要访问列“a”中第二行对应的值,即 10。

我们可以使用以下代码访问该值:

##df.loc[index, column_name]

df.loc[1,'a']

### 输出:10

类似地,iloc 用于使用索引和列号访问值。

##df.loc[index, column_number]

df.iloc[1,0]

### 输出:10

因此,loc 函数用于使用列名访问列,而iloc 函数用于使用列索引访问列。

如果在 Python 中将 loc/iloc 与循环一起使用会发生什么?

想象一下,我们想要在 DataFrame df 中添加一个新列“c”,其值等于“a”列和“b”列的值之和。

使用“for”循环,我们可以遍历我们的 DataFrame 并使用 loc 函数添加新列“c”,如下所示:

import timestart = time.time() 

# 遍历 DataFrame df 
for index, row in df.iterrows(): 
        df.loc[index, 'c' ] = row.a + row.b 

end = time.time() 
print (end - start) 

### 所用时间:2414 秒

使用 loc 进行迭代和更新值所需的时间大约为40 分钟,这是一个很长的时间。

替代方案:使用“at”代替“loc”

我们可以通过用“at”替换“loc”(或用“iat”替换“iloc”)来执行相同的操作,如下所示。

import timestart = time.time() 

# 遍历 DataFrame 
for index, row in df.iterrows(): 
    df.at[index, 'c' ] = row.a + row.b 

end = time.time() 
print (end - start) 
### 所用时间:40 秒

该代码执行时间约为0.7 分钟,比 loc 函数所用时间快 60 倍。

“loc”与“at”在运行时间上为何存在差异?

  • ‘at’/‘iat’

at用于iat访问标量,即 DataFrame 中的单个元素,如下所示:

df.at[2,'a']
### 输出:22

df.iat[2,0]
### 输出:22

如果我们尝试使用以下方式访问系列atiat,则会引发错误,如下所示:

## 这将导致错误,因为我们试图访问多行
df.at[:3,'a']
### 输出:ValueError: 基于整数索引的索引只能有整数索引器
  • ‘loc’/‘iloc’

loc旨在iloc同时访问多个元素(系列/数据框),可能执行矢量化操作。

df.loc[:3,'a']
### 输出
##0 26 
##1 10 
##2 22 
##3 22

df.loc[:3,0]
### 输出
##0 26 
##1 10 
##2 22 
##3 22

因为,at用于访问缩放器值,所以与loc用于访问系列/数据帧相比,它是轻量级的(实现速度很快),因此占用更多的空间和时间。


写在最后

在 Python 的循环中使用“loc”/“iloc”并不是最佳选择,应避免使用。相反,我们应该在需要的地方使用“at”/“iat”,因为它们比“loc”/“iloc”快得多。

推荐阅读  点击标题可跳转

1、说下 10 个高级的 SQL 查询技巧

2、图解 SQL 的执行顺序,优雅

3、Pandas 常用操作图解