Pandas 데이터 프레임 목록을 함께 연결

Pandas 데이터 프레임 목록을 함께 연결

---

하나의 Pandas 데이터 프레임으로 결합하려는 Pandas 데이터 프레임 목록이 있습니다. Python 2.7.10 및 Pandas 0.16.2를 사용하고 있습니다.

다음에서 데이터 프레임 목록을 만들었습니다.

import pandas as pd
dfs = []
sqlall = "select * from mytable"

for chunk in pd.read_sql_query(sqlall , cnxn, chunksize=10000):
    dfs.append(chunk)

이것은 데이터 프레임 목록을 반환합니다.

type(dfs[0])
Out[6]: pandas.core.frame.DataFrame

type(dfs)
Out[7]: list

len(dfs)
Out[8]: 408

다음은 몇 가지 샘플 데이터입니다.

# sample dataframes
d1 = pd.DataFrame({'one' : [1., 2., 3., 4.], 'two' : [4., 3., 2., 1.]})
d2 = pd.DataFrame({'one' : [5., 6., 7., 8.], 'two' : [9., 10., 11., 12.]})
d3 = pd.DataFrame({'one' : [15., 16., 17., 18.], 'two' : [19., 10., 11., 12.]})

# list of dataframes
mydfs = [d1, d2, d3]

, 및 을 하나의 pandas 데이터 프레임으로 결합 d1하고 싶습니다 . 또는 옵션을 사용할 때 큰 테이블을 데이터 프레임으로 직접 읽는 방법 이 매우 유용합니다.d2d3chunksize

---

모든 데이터 프레임에 동일한 열이 있으므로 간단히 concat다음과 같이 할 수 있습니다.

import pandas as pd
df = pd.concat(list_of_dataframes)

---

데이터 프레임에 모두 동일한 열이없는 경우 다음을 시도하십시오.

df = pd.DataFrame.from_dict(map(dict,df_list))

---

함수형 프로그래밍으로도 할 수 있습니다.

reduce(lambda df1, df2: df1.merge(df2, "outer"), mydfs)

참고 URL : https://stackoverflow.com/questions/32444138/concatenate-a-list-of-pandas-dataframes-together