IP adresiniz ifşa mıkazıdığınızda Google Haritalar?
Herkesin ilk sorduğu soruya sakin ve dengeli bir yanıt. Google'ın aslında ne gördüğü, CAPTCHA'ların ve hız sınırlamalarının nasıl çalıştığı ve veri kazıma işlemlerinizi nasıl güvenli bir şekilde yürütebileceğiniz.
Yasal··8 dakikalık okuma süresi
Önemli noktalar
IP adresiniz her zaman herhangi bir web isteğinin bir parçasıdır, Normal internet gezintisi de dahil olmak üzere, tarayıcıda veri kazıma işlemi, bunun ötesinde gizli bir risk oluşturmaz
Riski artıran şey şudur model İsteklerin değerlendirilmesinde önemli olan; IP adresinizin salt varlığı değil, hız, hacim ve trafiğin ne kadar makine gibi göründüğüdür
Google Haritalar tek bir aramada yaklaşık olarak şu kadar arama yapılmasını sınırlandırıyor 120 sonuç ve hizmetini CAPTCHA'lar ve hız sınırlamalarıyla savunuyor, bu nedenle insan kontrolünde yakalama mantıklı bir yol
Kısa cevap
Google'ın aslında gördüğü şey
Tarayıcınız her sayfa yüklediğinde IP adresi İstekle birlikte seyahat eder. İnternet, yanıtı size bu şekilde yönlendirir. Google Haritalar'ı açıp tek bir restorana bakmak, yüzlerce restoran kaydını yakalamakla aynı şekilde IP adresinizi açığa çıkarır. Kazıma işlemi, gizli bir ek ifşa katmanı oluşturmaz. IP adresiniz zaten görünür durumdaydı.
Dolayısıyla başlıkta yer alan sorunun dürüst cevabı şu: evet, IP adresiniz görünür, ancak normal internet gezintisi sırasında olduğundan daha fazla değil. İlginç soru ise şu değil ikisinden biri IP adresiniz görülüyor trafiğin nasıl göründüğü. Haritalarda insan hızında gezinen bir kişinin görüntüsü, aynı adresten dakikada binlerce istek gönderen bir komut dosyasına hiç benzemez.
Bu ayrım önemlidir çünkü Google, çoğu büyük hizmet gibi, otomatik kötüye kullanımı izler. Tek bir IP adresinin on saniye içinde aynı uç noktayı beş yüz kez istediğini fark etmek için adınızı bilmesine gerek yoktur. Savunmaları tetikleyen şey IP adresi değil, bu davranışsal parmak izidir.
Capture, insan temposuna uygun yaklaşımıyla öncülük ediyor
Vonsel Chrome uzantısı, Haritalar uygulamasını halihazırda kullandığınız şekilde okur ve ardından tüm verileri, fiilen çalıştığınız haritalandırılmış bir CRM sistemine gönderir.
Tarayıcı üzerinden veri yakalama ve sunucu tarafında veri kazıma karşılaştırması
Kendi tarayıcınızdan veri çekmek ile kiralık bir sunucudan veri çekme programı çalıştırmak arasında gerçek bir fark vardır. Bir tarayıcı uzantısı kullandığınızda, Haritalar'ın zaten ekranınıza gönderdiği verileri okuyorsunuz demektir. Bağlantı, tarayıcınızın normal bağlantısıdır; normal IP adresi, normal çerezler ve normal oturum söz konusudur. Ağda olağanüstü bir şey olmuyor.
Sunucu tarafı veri çekme araçları ve API tarzı araçlar farklıdır. Genellikle birçok müşteriyi, bir hizmetin işaretlemesi daha kolay olan paylaşımlı veri merkezi IP'leri üzerinden yönlendirirler; bu nedenle yükü dağıtmak için proxy havuzlarına ve dönen adreslere güvenirler. Bu mekanizma tam olarak ham otomatik trafiğin göze çarpması nedeniyle mevcuttur. Tarayıcı yakalama, gerçek bir oturumdaki gerçek bir kişi gibi görünerek bunun büyük bir kısmını atlatır.
Bakış açısı
Tarayıcı uzantısı
Sunucu tarafı veri çekme aracı
Google'ın gördüğü IP adresi
Normal internet tarama IP adresiniz
Veri merkezi veya proxy IP adresi
Gerçek bir oturum gibi görünüyor
Evet
Bağlı olmak
Vekil rotasyonuna ihtiyaç var
HAYIR
Sıklıkla
Hız isteği
İnsan, sen yol alırken
Makine, toplu halde
Kurulum karmaşıklığı
Yükleyin ve tıklayın
Kod, altyapı, proxy'ler
Bunların hiçbiri tarayıcı yakalamayı görünmez kılmaz ve bu şekilde pazarlanmamalıdır. Bu sadece trafik profilinin normal kullanıma daha yakın olduğu anlamına gelir. Engellemelerin nereden geldiği hakkında daha detaylı bilgi için kılavuzumuza bakın Google Haritalar'dan veri çekme engellemelerinden nasıl kaçınılır..
120
Google Haritalar'ın tek bir arama başına döndürdüğü yaklaşık sonuçlar
1
IP adresi, herhangi bir normal tarayıcı isteğiyle zaten açığa çıkmaktadır
0
Kendi tarayıcınızdan yakalama yaparken proxy'lere ihtiyaç duyulur
CAPTCHA'lar ve hız sınırlamaları
Savunma mekanizmaları neden ve ne zaman devre dışı kalır
CAPTCHA'lar ve hız sınırlaması, Google'ın kendi hizmetini otomatik aşırı yüklenmeye karşı koruma yöntemleridir. Bunlar size kişisel olarak yöneltilmiş cezalar değildir. CAPTCHA, aslında "şu anda insan mısınız?" diye soran bir kontrol noktasıdır. Hız sınırlaması ise, bir kaynak çok fazla ve çok hızlı istekte bulunduğunda devreye giren bir yavaşlatmadır. Her ikisi de büyük web servislerinin trafiği nasıl ele aldığına dair belgelenmiş davranışlardır ve Chrome ekibi, uzantıların nasıl hız sınırlaması getirdiğini açıklamaktadır ağ istekleri Öncelikle.
Onları yanıltan kalıp tahmin edilebilir: tek bir adresten gelen, birbirinin aynı isteklerin seline benzer bir durum, duraklama yok, insan ritmi yok. Onları yanıltmayan kalıp ise, bir aramayı kaydırdığınızda, sonuçların yüklenmesini beklediğinizde ve devam ettiğinizde doğal olarak ürettiğiniz kalıptır. İşte tüm argüman bu Bir kişinin Haritalar'ı gerçekte nasıl kullandığına dair hız yakalama bitiş çizgisine doğru yarışmak yerine.
CAPTCHA'yı bir karar olarak değil, geri bildirim olarak değerlendirin. Neredeyse her zaman, isteğinizin hızının insan hızını aştığı anlamına gelir. Hızınızı düşürün ve kontrol noktası geçecektir. Sorun asla IP adresi değildi, hızdı.
120 sonuç sınırı
Tek bir aramanın neden asla tüm bir şehri göstermediği
Er ya da geç herkes Haritalar aramasının yaklaşık 120 sonuçtan sonra durduğunu fark eder. Bu, halka açık arayüze yerleştirilmiş bir ürün sınırlamasıdır, bir kusur veya size karşı bir engel değildir. Google, tek bir sorgunun tüm metropol alanını aynı anda döndürmemesi için sonuçları sayfalara ayırır.
Pratik çözümün IP adresinizle hiçbir ilgisi yok. Geniş bir alanı daha küçük, dürüst aramalara bölüyorsunuz: mahalleye göre, kategoriye göre, posta koduna göre, sonra topladığınız verileri birleştiriyorsunuz. Bu, bir kişinin bir şehri, her seferinde bir bölgeyi, nasıl keşfedeceğine benziyor ve normal kullanım sınırları içinde kalıyor. Bunun mantığını ayrıntılı olarak ele alıyoruz Google neden 120 sonuçla sınırlıyor..
İyi bir eklenti bunu zahmetsiz hale getirir. Vonsel ile bir aramayı yakalayabilir, daha sonra başka bir mahalle eklemek için aynı veriyi tekrar açabilir ve birçok küçük sorgu üzerinden tek bir temiz liste oluşturmaya devam edebilirsiniz. Bu devam ettirme ve genişletme akışı, yakaladığınız her şeyin geçmişiyle birlikte, ham bir veri dökümü ile gerçekten bir bölgeyi çalıştırabileceğiniz bir veritabanı arasındaki farkı yaratır.
Dürüst bir arama yaparak adım adım bir şehir inşa edin
Aynı listeyi yakalayın, yeniden açın ve genişletin. Vonsel, düzinelerce küçük aramayı, incelemeler ve iletişim verileri eklenmiş tek bir haritalı veritabanına dönüştürür.
Burada iki ayrı soru birbirine karışıyor. Birincisi, verileri toplamak yasal mı? İkincisi, toplandıktan sonra bu verilerle ne yapmanıza izin veriliyor? Halka açık işletme bilgilerine genellikle erişilebilir, ancak bunları nasıl saklayacağınız ve kullanacağınız, aşağıdaki gibi kurallarla düzenlenir GDPR'nin kişisel veri tanımı Bir ilanda, adı geçen bir mülk sahibi veya kişisel cep telefonu numarası gibi bir birey yer aldığında.
Google ayrıca kendi ürünleri için de beklentiler belirliyor ve Google Haritalar Platformu Hizmet Şartları Haritalar üzerinde büyük ölçekte uygulama geliştirmeyi planlıyorsanız, okumaya değer. Bu yazı eğitim amaçlıdır, yasal tavsiye niteliğinde değildir; bu nedenle uyumluluk sorusuna dikkatli bir işletmenin yapacağı gibi yaklaşın: yetki alanınızı bilin, vazgeçme seçeneklerine saygı gösterin ve iletişim için yasal bir dayanak oluşturun. Genel bakışımız Google Haritalardan veri kazımanın yasal olup olmadığı ve GDPR açısı Daha derine in.
İşin güven verici yanı, sorumlu kullanım ve düşük teknik riskin genellikle birbiriyle örtüşmesidir. Meşru bir amaçla saklanan, insan kontrolünde gerçekleştirilen kamuya açık işletme listelerinin toplanması, hem Google'ın savunma mekanizmalarına hem de gizlilik yasasının ruhuna saygı duyar. Dikkatsiz ve yüksek hacimli veri kazıma ise her ikisini de zorlar.
Güvenli taraf kontrol listesi
Maruz kalma ve riski nasıl düşük tutabilirsiniz
İnsan gibi adımla
Sonuçların yüklenmesine, doğal bir şekilde kaydırılmasına izin verin ve hızlı, tekrarlanan isteklerden kaçının. İnsan ritmi, CAPTCHA'lara karşı en iyi savunmadır.
Geniş alanları bölmek
Şehir aramalarınızı mahalle, kategori veya posta kodu bazında yapın; 120 sonuç sınırını aşan devasa bir sorgu çalıştırmaya çalışmayın.
Tarayıcınızda yakalayın
Kendi gerçek oturumunuzdan veri okumak, işaretlenen veri merkezi IP kalıplarından kaçınmanızı sağlar ve kurulum için herhangi bir proxy'ye ihtiyaç duymaz.
Yasal bir dayanağa sahip olmak
İşletmenize ait kamuya açık verileri meşru bir amaçla saklayın, veri paylaşımını reddetme taleplerine saygı gösterin ve e-posta göndermeden önce ülkenizde geçerli olan kuralları öğrenin.
Fikri mülkiyetiniz hiçbir zaman risk altında değildi. Temponuz şu şekilde.
Bir bot gibi veri kazımak yerine, bir işletme gibi geliştirin
Vonsel ücretsiz bir araçtır. Haritalandırılmış CRM, inceleme zekası ve işletmeye özel yapay zeka destekli e-posta ise nihai çözümdür. Özellikleri keşfedin veya kontrol paneline bakın..
Haritalardan veri çekerken Google IP adresimi görebilir mi?
Evet. Tarayıcınız Google Haritalar'ı her yüklediğinde, IP adresiniz normal taramada olduğu gibi bağlantının bir parçasıdır. Tarayıcıda veri kazıma, herhangi bir web isteğinin zaten ortaya koyduğu riskin ötesinde ek bir risk oluşturmaz. Riski değiştiren şey, IP adresinizin varlığı değil, isteklerin kalıbıdır.
Google Haritalar neden her aramada yalnızca yaklaşık 120 sonuç gösteriyor?
Herkese açık Haritalar arayüzü, aramayı yaklaşık 120 sonuçla sınırlandırır, bu nedenle tek bir sorgu tüm şehri göstermez. Bu bir ürün sınırlamasıdır, hata değildir. Pratik çözüm, geniş bir alanı mahalle, kategori veya posta kodu bazında daha küçük aramalara bölmek ve ardından sonuçları birleştirmektir.
Google Haritalar'dan veri çekmek için yasaklanır mıyım veya CAPTCHA doğrulamasıyla karşılaşır mıyım?
Agresif, yüksek hızlı otomatik istekler CAPTCHA'ları veya geçici hız sınırlamalarını tetikleyebilir. Bir kişinin Haritalar'da gerçekte nasıl gezindiğini yansıtan, insan hızına uygun tarayıcı yakalama yöntemi, bu savunmaları tetikleme olasılığını çok daha azaltır. Hız sınırlarına saygı gösterin, aynı uç noktayı sürekli olarak zorlamaktan kaçının ve hacimlerinizi makul seviyede tutun.