python按照list中字典的某key去重的示例代碼
一、需求說明
當我們寫爬蟲的時候,經(jīng)常會遇到json格式的數(shù)據(jù),它通常是如下結構:
data = [{’name’:’小K’,’score’:100}, {’name’:’小J’,’score’:98}, {’name’:’小Q’,’score’:95}, {’name’:’小K’,’score’:100}]
很顯然名字為小K的數(shù)據(jù)重復了,我們需要進行去重。通常對于list的去重,我們可以用set()函數(shù),即:
data = list(set(data))
然而,運行之后你會發(fā)現(xiàn)它報錯了:
list里的數(shù)據(jù)不能是dict類型,那么該怎么辦呢?
二、我的解決方案
定義一個去重的函數(shù)即可,根據(jù)里面的某個key,對數(shù)據(jù)進行篩選去重:
def DelRepeat(data,key): new_data = [] # 用于存儲去重后的list values = [] # 用于存儲當前已有的值 for d in data: if d[key] not in values: new_data.append(d) values.append(d[key]) return new_data
參數(shù)data為需要去重的list,key為去重的?。窗凑漳膫€key來去重),去重后結果為:
[{’name’: ’小K’, ’score’: 100}, {’name’: ’小J’, ’score’: 98}, {’name’: ’小Q’, ’score’: 95}]
成功去重!
到此這篇關于python按照list中字典的某key去重的示例代碼的文章就介紹到這了,更多相關python list字典的某key去重內(nèi)容請搜索好吧啦網(wǎng)以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持好吧啦網(wǎng)!
相關文章:
