技術雑記帳兼日記帳

AWS、Python、Terraformの使い方をコッソリ

2021-05-01から1ヶ月間の記事一覧

WSLでssh

WSL

sshが自動起動しないので、いつもどおりsystemctlコマンド打ってもだめだった。 qiita.com 上記のリンクのコマンドラインで起動したらうまくいった。 ただ、自分の環境だとバッチファイルが起動できない。 色々ググったけどだめだから、スタートアップにショ…

python WSL

やんごとなき事情でWindowsでPython環境を作ったが、なれないのでWSLのUbuntuで実行環境を作った。 そのときに、turtleが表示されなかったのでメモ 以下をWindowsにインストール sourceforge.net Linux側で下記を設定 $ export DISPLAY=localhost:0.0 あとは…

Amazon S3 and boto3

忘れそうなのでメモついでにAWS CLIとPythonでS3の使い方をまとめる。 docs.aws.amazon.com S3の設定 バケット作成 aws s3 mb s3://バケット名 バケットにコピー aws s3 sync images s3://バケット名/images/ バケットデータ削除 aws s3 rm s3://バケット名/…

python スクレイピング その7

はじめに 今回はScrapyを使用してNPBの種類ごとの歴代最高記録のURLを取得してみた。 準備 Scrapyのインストール $ pip install scrapy Scrapyプロジェクトの作成 $ scrapy startproject npb $ cd npb $ tree . ├── npb │ ├── __init__.py │ ├── items.py │ …

python スクレイピング その6

はじめに 今回は巨人の藤田元司監督のWikiページを画像でコピーする処理を作成した。 準備 sele_headless.py from selenium import webdriver from selenium.webdriver.chrome.options import Options from webdriver_manager.chrome import ChromeDriverMan…

python スクレイピング その5

はじめに 今回は短めにヘッドレスモードを試してみる。 準備 sele_headless.py from selenium import webdriver from selenium.webdriver.chrome.options import Options from bs4 import BeautifulSoup import time url = 'https://srad.jp/' keyword = 'Li…

python スクレイピング その4

はじめに 今回はseleniumでSlashdotを開いて、ブラウザを操作して結果を表示するプログラムを書いてみた。 準備 最初にpipで以下をインストールしておく。 $ pip install selenium $ pip install chromedriver $ pip install chromedriver-binary==90.0.4430…

AWS 認定 クラウドプラクティショナー受験記録

AWS

はじめに 5月8日にAWS 認定 クラウドプラクティショナーを受験してきました。 試験までの流れ 1.試験前 きっかけは実務でAWSも触ってるし、説明するときの根拠付もあったほうがいいかなぁと思って以下の本を購入して勉強を開始しました。 勉強方法は「古典…

python スクレイピング その3

はじめに 今回はYahoo画像検索で猫の画像をかき集めて保存するプログラムを書いてみた。 準備 imageDownload.py import requests, os, json, traceback from bs4 import BeautifulSoup path = './img-cat/' maxPage = 2 searchText = '猫' def imageDownload…

python スクレイピング その2

はじめに 前回の続きでスクレイピングについて書いていく。 準備 これまた本通りだと芸がないので、はてなブログの「注目」のタイトルとURLを抽出してCSVに出力する処理を作成した。 entryTitle.py import requests from bs4 import BeautifulSoup import cs…

python スクレイピング その1

はじめに この本を買ったので、学習成果をまとめていく。 準備 スクレイピングでWikipediaの「今日は何の日」を取得するんだけど芸がないので、「新しい記事」のリンクのタイトルをすべて取得してみる。 newArticles.py import requests from bs4 import Bea…

python Amazon Rekognition Detect Text

はじめに 今回は画像からテキストを分析するDetect Textを使ってみる。 準備 下記のプログラムを用意する。 detect_text.py.py from PIL import Image, ImageDraw, ImageFont import boto3, sys, json, os, traceback #画像の分析結果を返す def detect_text…

python pillow 色々な画像変換

はじめに 今回はpillowを使って色々な画像変換を試してみる。 準備 下記のプログラムを用意する。 convert.py from PIL import Image, ImageOps import sys if len(sys.argv) != 2: exit() #画像をsampleを開く inFileName = sys.argv[1] outFileName = 'out…